Le directeur de Sony pour la recherche en IA veut créer des robots capables de décrocher le prix Nobel
Ces dernières années, les systèmes d’intelligence artificielle et d’apprentissage automatique se sont révélés être une bénédiction pour la recherche scientifique dans différents domaines académiques. Ils ont aidé les scientifiques à identifier des marqueurs génomiques prêts pour des méthodes de traitement avancées, à accélérer la découverte de médicaments et de thérapies efficaces, ainsi qu’à publier leurs propres travaux.
Pourtant, pendant toute cette période, ces systèmes ont souvent dû se contenter de traiter de grands volumes de données et d’effectuer des calculs par force brute, plutôt que de diriger la recherche. Cependant, le docteur Hiroaki Kitano, directeur général de Sony AI, prévoit de créer une « forme hybride de science qui fera passer la biologie des systèmes et d’autres disciplines à un nouveau niveau », en mettant au point une intelligence artificielle aussi capable que les esprits scientifiques actuels.
Pour cela, Kitano cherche à développer une intelligence artificielle suffisamment intelligente pour remporter le prix Nobel d’ici 2050.
« La particularité de cette tâche réside dans l’intégration du système dans un domaine ouvert, afin d’explorer des découvertes importantes plutôt que de redécouvrir ce que nous savons déjà ou de tenter d’imiter des processus de pensée humaine supposés. La vision consiste à redéfinir la découverte scientifique elle-même et à créer une forme alternative de découverte scientifique. La valeur réside dans la conception de machines capables de faire des découvertes en continu et de manière autonome. Le scientifique-IA générera et vérifiera le plus grand nombre possible d’hypothèses, en espérant que certaines d’entre elles puissent mener à de grandes découvertes par elles-mêmes ou servir de fondement à de grandes découvertes. La capacité à générer exhaustivement des hypothèses et à les tester efficacement constitue le cœur du système »
Les IA d’aujourd’hui sont elles-mêmes le fruit de décennies de recherche et d’expérimentation, depuis 1950, année où Alan Turing a publié son œuvre fondatrice « Computing Machinery and Intelligence ». Au fil des ans, ces systèmes sont passés de curiosités de laboratoire à des outils indispensables de traitement et d’analyse des données, mais Kitano veut franchir une étape supplémentaire en créant effectivement une « constellation de modules logiciels et matériels interagissant dynamiquement pour accomplir des tâches ».
Hiroaki Kitano a déclaré à Engadget : « Au départ, il s’agira d’un ensemble d’outils utiles qui automatisent une partie du processus de recherche, aussi bien en matière d’expérimentation que d’analyse des données. Par exemple, l’automatisation d’un laboratoire au niveau d’un système fermé, et non d’une automatisation isolée, est l’une des premières étapes. Un excellent exemple en est le robot-scientifique Adam-Eve, développé par le professeur Ross King, qui génère automatiquement des hypothèses sur la génétique de la levure en formation, planifie des expériences pour les confirmer ou les infirmer, et les réalise. Progressivement, le niveau d’autonomie pourra augmenter afin de générer un éventail plus large d’hypothèses et de vérifications. Néanmoins, il restera un outil ou un assistant pour les scientifiques humains, du moins dans un avenir prévisible ».
Selon lui, si le scientifique-IA prend en charge le lourd travail intellectuel lié à la formulation des hypothèses de recherche, ses collègues humains disposeront de plus de temps libre pour se concentrer sur les stratégies de recherche et décider quelles hypothèses étudier réellement.
Comme toujours, la prévention de l’effet boîte noire et des biais implicites (aussi bien dans la conception du logiciel que dans les jeux de données sur lesquels il est entraîné) sera primordiale pour établir et maintenir la confiance dans le système. Kitano a affirmé : « Pour qu’une découverte scientifique soit acceptée par la communauté scientifique, elle doit s’accompagner de preuves convaincantes et d’un raisonnement solide. Les scientifiques-IA disposeront de composants capables d’expliquer les mécanismes sous-jacents à leurs découvertes. Les scientifiques-IA qui ne possèdent pas de telles capacités d’explication seront moins privilégiés ».
Certaines des plus grandes découvertes scientifiques de l’histoire, du rayonnement aux micro-ondes en passant par le Téflon et le stimulateur cardiaque, sont nées d’erreurs expérimentales. Mais lorsque des IA superintelligentes commencent à inventer leur propre langage incompréhensible, les chercheurs se précipitent pour « débrancher la prise ». Que se passera-t-il si, et quand, un scientifique-IA fait une découverte ou conçoit une expérience que les humains ne peuvent pas comprendre immédiatement, même avec une explication ?
« Lorsque les scientifiques-IA deviendront suffisamment expérimentés pour appréhender des phénomènes complexes, il y a de fortes chances qu’ils découvrent des choses que les scientifiques humains ne comprennent pas immédiatement. En théorie, il est possible que quelqu’un puisse diriger des scientifiques-IA hautement autonomes sans limites, sans se soucier de savoir si leur découverte est compréhensible. Cependant, cela pourrait avoir un coût élevé, et il faudra le justifier. Lorsqu’il sera reconnu qu’un tel scientifique-IA réalise déjà d’importantes découvertes scientifiques, je suis convaincu qu’une interface graphique apparaîtra pour garantir la sécurité et prévenir les mauvaises utilisations »
L’émergence d’un scientifique-IA capable de travailler aux côtés de chercheurs humains pourrait aussi soulever des questions épineuses : à qui attribuer les découvertes réalisées — à l’IA qui a formulé l’hypothèse et mené l’expérience, à la personne qui a dirigé ces efforts, ou à l’établissement académique ou à la personne morale propriétaire de l’opération ? Kitano cite à titre d’exemple une récente décision d’un tribunal australien qui a reconnu DABUS (« système neuronal artificiel ») comme inventeur de demandes de brevet.
À l'inverse, le scientifique rappelle le cas de Satoshi Nakamoto et de ses inventions, la blockchain et les bitcoins : « Il est arrivé qu'une contribution décisive soit simplement publiée sous forme d'article de blog et prise au sérieux, mais personne n'a jamais rencontré son auteur, et son identité reste un mystère total. »
« Si le développeur d'une IA scientifique était déterminé à créer une identité virtuelle de scientifique avec un ORCID iD pour démontrer des avancées technologiques, promouvoir un produit ou pour une autre motivation, il serait presque impossible de distinguer l'IA du scientifique humain »
Mais que faire si ce problème est une véritable avancée révolutionnaire en médecine — disons un médicament contre le cancer ou un chirurgien-nanorobot — peu importe que l'expérience ait été menée par un humain ou une machine ?
