Interview de Travis Desell, admin de CSG

[modesti]

tout le monde !

A l'occasion du raid d'automne 2017, j'ai le plaisir de vous présenter Travis Desell, administrateur du projet CSG.

*****
Salut Modesti!

Désolé pour ma lenteur -- j'étais en déplacement ces derniers jours. Si vous voulez que je vous fasse un retour sur un post quelconque de votre forum, faites-le moi juste savoir ici par un message personnel ou un e-mail et je passerai vous voir.

Quant à tes questions:

- Pourriez-vous présenter l'équipe en charge du projet?

Pour le côté BOINC, il s'agit tout simplement de moi! C'est pourquoi les choses peuvent être un peu lentes de temps en temps. J'ai cependant deux étudiants en Master - Connor et Marshall - qui travaillent sur Wildlife@Home. Marshall a travaillé sur les interfaces de production participative et Connor a fait plus de travail dans l'ombre pour aider les biologistes de la faune à utiliser les algorithmes informatiques de vision.

- Où est situé le projet?

Une partie remonte à l'époque où j'étais à l'école supérieure de l'institut polytechnique Rensselaer (où j'ai mis en place MilkyWay@Home). Pour mon post-doctorat, j'ai développé DNA@Home et lorsque j'ai décroché une chaire de professeur à l'université du Dakota du Nord, j'ai emmené DNA@Home avec moi. Après avoir démarré quelques projets de calcul distribué ici, à l'UND, j'ai décidé de tous les fusionner dans Citizen Science Grid pour rendre ma vie un peu plus facile.

- CSG regroupe plusieurs sous-projets qui étaient auparavant des projets indépendants. Pourriez-vous nous expliquer, quand et comment l'idée d'une fusion en CSG est apparue?

À la base, chaque projet avait sa propre page web, son ensemble de forums, nom de domaine, etc. Cela a fini par être une grande source d'embêtements pour moi, car j'avais à consulter trois forums différents et à mettre à jour les choses en trois endroits différents quand il fallait actualiser BOINC, etc. La fusion des projets a été faite, presque entièrement, pour faciliter un peu ma vie bien remplie de professeur. Cela a cependant ajouté un bénéfice: quand un projet n'a pas de travail, les autres en ont, ce qui évite que les serveurs s'assèchent pendant trop longtemps!

- Quand pensez-vous que nous pourrions nous attendre à du nouveau travail sur DNA?

Actuellement, je n'en suis pas sûr. Je n'ai pas de financement pour DNA@Home et nous avons fait quelques avancées où, avec ce que nous faisons, nous pouvons obtenir les résultats nécessaires sans ressources informatiques massives. Nous poursuivons le travail et j'espère toutefois que nous aurons un peu de travail pour le projet à l'avenir quand le besoin se fera sentir. Je ne veux cependant pas gaspiller les cycles CPU des gens quand nos besoins informatiques n'en ont pas besoin pour ce projet actuellement. De plus, je suis personnellement nettement plus intéressé par ce que nous faisons avec l'algorithme EXACT sur wildlife@home, celui-ci prend donc nettement plus de mon attention.

- Avez-vous pensé à créer une application GPU?

Oui, c'est sur ma liste des choses à faire. Je veux juste m'assurer que nous en tirerons une bonne performance. La programmation des GPU est délicate et avec l'application que nous avons actuellement, il est totalement possible de se retrouver avec une application GPU plus lente que l'application CPU!

- Dans quelques jours, notre équipe fera un raid sur votre projet. Qu'en pensez-vous?

Super, je suis super-excité à ce sujet! Ce que je fais avec EXACT et Wildlife@Home nécessite autant de cruncheurs que je peux rassembler. J'ai hâte de voir l'augmentation du travail accompli!

Merci,
--Travis
*****

Et voici la VO:

Hi Modesti!

Sorry for being a little slow -- was traveling the last few days. If you want me to provide some feedback on any posts in your forum just let me know here with a private message or email and I'll make my way on over.

As to your questions:

- Could you introduce the team in charge of the project?

It's pretty much just me on the BOINC end of things! That's why things can be a bit slow from time to time. I have to masters students (Connor and Marshall) working on Wildlife@Home though, Marshall has been working on the crowd sourcing interfaces, and Connor has been doing some more behind the scenes work to help the wildlife biologists use computer vision algorithms.

- Where is the project based?

Some of this started back when I was in graduate school at Rensselaer Polytechnic Institute (where I set up MilkyWay@Home). For my postdoc I developed DNA@Home, and then when I got a professorship at University of North Dakota, I took DNA@Home with me. After starting up a few volunteer computing projects here at UND, I decided to merge them all into the Citizen Science Grid to make my life a bit easier.

- CSG groups several subprojects that were individual projects before. Could you explain when and how the idea of the merging in CSG arose?

Originally each project had it's own webpage, set of forums, domain name, etc. This ended up being a royal pain in my butt because I'd have to check three different forums, and update things in three different places when I needed to upgrade BOINC, etc. Merging them was almost entirely to simplify my busy life as a professor a little bit. It does have the added benefit though that when one project has no work, others do so that prevents things from going dry too long!

- When do you think we could expect some more work on DNA?

At this point I'm not sure. I don't have any funding for DNA@Home, and we've made some advances where with what we're doing we can get the results we need without massive computing resources. We are continuing work and I hope we'll get some more work for it sometime in the future however when the need arises. I don't want to be wasting peoples CPU cycles however, when our computing needs don't call for it on that project at the moment. I'm also personally a lot more interested in what we're doing with the EXACT algorithm on wildlife@home so that's taking up a lot more of my attention.

- Have you thought of creating an application for GPU?

Yes I have, and it's on the to-do list. I just want to make sure that we get good performance out of it. Programming GPUs is tricky, and with the application we have right now it's totally possible to end up with a GPU application slower than the CPU one!

- In a few days, our team will make a run on your project. What do you think about it?

Super, super excited about it! What I'm doing with EXACT and Wildlife@Home needs as many crunchers as I can possibly get. I can't wait to have the boost in work getting done!

Cheers,
--Travis


Edit: ajout des liens Wikipédia

[Oncle Bob]

Merci modesti

[bernardP]

 
Pour une fois, je vais savoir ce que je calcule !
Youpeeeee

[JeromeC]

Cool, danke schön (vielen) !!

[nafrayou]

Super boulot modesti  , comme toujours , un grand merci pour ton dévouement .

[modesti]

Vu comment nous sommes tous gourmands d'UT, je me suis permis de rajouter une question

*****
- Une autre question de ma part: Le nombre d'UT est-il limité à 4/cœur?

La limite de 4 par cœur vient du fonctionnement de l'algorithme côté serveur. Fondamentalement, les résultats sont utilisés pour générer de nouvelles unités de travail, donc plus les résultats sur le serveur sont récents, mieux les choses avancent de mon côté.

Si je permettais aux volontaires de stocker des tas de résultats, alors les résultats que je recevrais en retour ne seraient pas aussi bons, car les résultats sur lesquels les gens calculeraient ne seraient pas assez récents. J'espère que cela paraît logique.
*****

Voici la VO:
- Another question from my side: Is the number of WUs limited to 4/core?

So the 4 core limit is because of how the algorithm works on the server end. Basically results are used to generate new workunits, so the more up-to-date the results are on the server the better things progress on my end.

If I allowed volunteers to stockpile lots of results, then the results I get back won't be as good, because the results people will be calculating won't be as up to date. Hope that makes sense.

*********************************

Du coup, je me demande si je vais continuer à faire de la rétention...

[Rhodan71]

de toute façon, la rétention d'informations, c'est mal   

[[AF>Amis des Lapins] Jean-Luc]

Merci Modesti.

[[AF>Libristes>Jip] Elgrande71]

Merci modesti 

[naz]

Merci modesti 

[Jakez Sulli]

  Merci Modesti 

[alipse]

Super agréable à lire.
Merci :-)

[zelandonii]

Merci Modesti! Tant que j'y suis, remercier également toutes les personnes de l'AF qui oeuvrent dans l'ombre (ou pas) pour que tout fonctionne de manière optimale. Vous faites un boulot génial!

[Infomat]

Merci Modesti! Tant que j'y suis, remercier également toutes les personnes de l'AF qui oeuvrent dans l'ombre (ou pas) pour que tout fonctionne de manière optimale. Vous faites un boulot génial!

Je plussois 

[modesti]

Suite à la question de Phil et la réponse de Maurice, voici maintenant la réponse complète de Travis

*****
Bonjour,
[...]
Hier soir, une autre question a été posée: Pour quel genre de recherche calculons-nous avec les différentes applications EXACT?
La seule chose que nous savons, c'est qu'elles comptent pour le sous-projet Wildlife.

Et n'oubliez pas le démarrage de notre raid à la fin de la semaine... Plus de 70 co-équipiers ont déjà un RAC positif sur les 3 derniers jours (https://statseb.boinc-af.org/classement_membres.py?projet=191&sous_projet=all&sort=rac). Pendant le raid, nous devrions être entre 200 et 300 (peut-être plus). Tous ces gens ont besoin d'UT pour nourrir leurs bécanes

Cordialement et merci beaucoup pour votre temps
modesti
-----


Bonjour Modesti,

J'ai quelques publications qui expliquent ce que font ces UT en détail:

Le travail initial est décrit ici:

Travis Desell. Large Scale Evolution of Convolutional Neural Networks Using Volunteer Computing. arXiv: Neural and Evolutionary Computing (cs.NE). March 15, 2017.

https://arxiv.org/abs/1703.05422

Et une mise à jour récente ici:

Travis Desell. Developing a Volunteer Computing Project to Evolve Convolutional Neural Networks and Their Hyperparameters. The 13th IEEE International Conference on eScience (eScience 2017). Auckland, New Zealand. October 24-27 2017.

http://tdesell.cs.und.edu/papers/2017_escience_exact.pdf

Donc, fondamentalement, dans la vision par ordinateur/les réseaux neuronaux il y a une importante question ouverte « quelle pourrait être l'apparence du réseau neuronal? ». Généralement, dans les processus profonds d'apprentissage, les réseaux de neurones convolutifs (CNN) sont un sujet important et ils sont très efficaces pour la détection d'objets. Néanmoins, actuellement les gens utilisent seulement des CNN avec des structures crées par les humains qui fonctionnent bien.

Mon travail ici est de faire évoluer la structure du CNN pour voir si on peut découvrir quelle architecture fonctionne le mieux au lieu d'utiliser plus de structures de CNN générées par l'être humain. Les résultats sont très intéressants car nous obtenons des architectures efficaces de CNN qui sont complètement différentes de ce que les être humains avaient créé.

J'espère que cela vous aide! Faites-moi savoir si vous avez d'autres questions et voulez plus de clarifications.


Quant aux UT, pas de soucis – j'en générerais autant que les hôtes en demanderont. 

cheers,
--Travis

***********************
Et voici la même chose en VO:

Hi,
[...]
Last night another question came up: What kind of research are we crunching for with the different EXACT applications?
The only thing we know, is that they account for the Wildlife-subproject.

And don't forget the start of our run at the end of the week... Over 70 team-mates already have a positive RAC over the last 3 days (https://statseb.boinc-af.org/classement_membres.py?projet=191&sous_projet=all&sort=rac). During the raid we should be between 200 and 300 (maybe more). All these people need WUs to feed their rigs

Best regards and thanks a lot for your time
modesti
----

Hi modesti,

I have a few publications which go into what these WUs are doing in detail:

The initial work is described here:

Travis Desell. Large Scale Evolution of Convolutional Neural Networks Using Volunteer Computing. arXiv: Neural and Evolutionary Computing (cs.NE). March 15, 2017.

https://arxiv.org/abs/1703.05422

And a recent update here:

Travis Desell. Developing a Volunteer Computing Project to Evolve Convolutional Neural Networks and Their Hyperparameters. The 13th IEEE International Conference on eScience (eScience 2017). Auckland, New Zealand. October 24-27 2017.

http://tdesell.cs.und.edu/papers/2017_escience_exact.pdf

So basically in computer vision/neural networks there's a big open question of "what should the neural network look like?" Generally speaking in deep learning convolutional neural networks (CNNs) are a hot topic, and do a very good job at object detection.  However currently people are only using CNNs which have structures that humans came up with that have worked well.

What i'm doing is evolving CNN structure to see if we can discover what architecture works best as opposed to using more structured human generated CNNs. Results are very interesting in that we're getting competitive CNN architectures that look dramatically different than what humans have come up with.

Hope that helps! Let me know if you have any other questions or want some clarification.


As to WUs, no worries there -- I'll be generating as many as hosts ask for.

cheers,
--Travis

[traduction: Cocagne]

Edit: correction de qq coquilles

[Maurice Goulois]

  Modesti & Cocagne

[naz]

Merci Modesti et Cocagne!

Je crois qu'il n'a pas conscience de la force de frappe de l'AF  On va tenter un crash serveur 

[JeromeC]

Méga cool !

[Ceclo]

Merci pour les infos!
C'est motivant d'avoir un admin qui prend le temps de répondre et des gens de l'AF qui font le relais!

[GuL]

C'est bien vrai ça !

[Oncle Bob]

Mais oui c'est clair !

[[AF] fansyl]

Merci pour les infos!
C'est motivant d'avoir un admin qui prend le temps de répondre et des gens de l'AF qui font le relais!

Je plussoie ! Merci Modesti et Cocagne !

[MortelKni]

Merci à vous deux, c'est toujours intéréssant de savoir sur quoi on crunch ! 

[damotbe]

Super intéressant ! Surtout que je fais parti de ceux qui font leur CNN à la main 

[JeromeC]

Ah moi mes réseaux de neurones, je les fais de tête