Deepmind contrôlera toute intelligence générale artificielle qu’il crée, pas l’Alphabet Google

DeepMind — très en vue — prétend être le « leader mondial de la recherche en intelligence artificielle ». AlphaGo et AlphaStar donnent certainement du crédit à ce titre, mais l’objectif final de la division Alphabet est l’intelligence générale artificielle (AGI). S’il parvient un jour à cette réalisation historique, DeepMind — et non sa société mère — conservera le contrôle.

L’apprentissage machine et l’intelligence artificielle sont de plus en plus utilisés dans les applications et les services sur Google et au-delà. Pas plus tard que la semaine dernière, Google a publié Lookout, qui, comme Google Lens, utilise l’IA pour reconnaître les objets et le texte dans le monde. Gboard, quant à lui, dispose désormais d’une transcription de la parole en temps réel sur l’appareil pour Pixel. D’autres exemples incluent Smart Replyand Smart Composein Gmail, et les suggestions grammaticales de Google Docs.

Cependant, ce sont tous des exemples d’IA appliquée dans la mesure où les algorithmes ne peuvent résoudre que la tâche spécifique à laquelle ils ont été assignés et rien de plus. En revanche, l’intelligence générale artificielle — en théorie — excellerait dans n’importe quelle tâche qui lui est confiée, tout comme un être humain. L’AGI intégrerait les capacités des IA d’aujourd’hui et servirait à faire des percées dans le traitement médical ou à découvrir de nouveaux éléments.

Tel est l’objectif déclaré de DeepMind, qui a été fondé en 2010 par Demis Hassabis et acheté par Google en 2014

Il s’agit actuellement d’une division de l’Alphabet et continue d’effectuer ses propres recherches. Par exemple, Google gère une organisation de recherche Google AI distincte qui produit fréquemment des avancées en matière de ML grand public, comme Night Sight.

Un profil intéressant dans le1843 Magazine de The Economist jette un peu de lumière dans ce processus d’acquisition. Alors que DeepMind aurait pu rester indépendant, Google a fourni la puissance de calcul et le cash flow. En conséquence, Hassabis et la société ont négocié une stricte indépendance :

Dans le cadre de l’accord, DeepMind a créé un arrangement qui empêcherait Google de prendre unilatéralement le contrôle de la propriété intellectuelle de l’entreprise. Au cours de l’année précédant l’acquisition, selon une personne connaissant bien la transaction, les deux parties ont signé un contrat appelé Ethics and Safety Review Agreement.

De nouveaux détails de1843 révèlent comment un comité d’éthique aura le contrôle exclusif de toute AGI DeepMind « quand elle pourra être créée ». Qui siège exactement sur ce panneau est inconnu, mais on dit qu’il inclut les trois fondateurs de DeepMind.

Loin d’être une concession cosmétique de Google, le Comité d’éthique donne à DeepMind un solide soutien juridique pour garder le contrôle de sa technologie la plus précieuse et potentiellement la plus dangereuse, selon la même source.

Après la réorganisation, le contrat s’applique vraisemblablement maintenant à la structure de gouvernance plus large de l’Alphabet.

Le texte complet 1843 est une lecture fascinante et continue en détaillant comment le resserrement financier d’Alphabet ne semble pas encore s’appliquer à DeepMind. Toutefois, il apporte de plus en plus de contributions comme aider à gérer la consommation d’énergie au centre de données de Google, ou comment Adaptive Brightnessin Android Pie et Q est alimenté par DeepMind.

Cependant, il y a eu récemment un bras de fer sur la façon dont le travail commercialisé de DeepMind dans le domaine de la santé a été transféré l’an dernier à la division de la santé de Google, ce qui a suscité des craintes quant à la confidentialité des données. On discute aussi de la façon dont l’approche de DeepMind — l’apprentissage du renforcement — à la création de l’AGI qui a mené à AlphaGo et AlphaStar pourrait ne pas aboutir en fin de compte. Il est clair qu’il réussit dans certaines tâches, mais la science qui sous-tend cette recherche à l’échelle de l’industrie est encore en évolution.