Début du contenu principal.
«OpenAI doit devenir une entreprise axée sur la sécurité.»
Un ancien dirigeant d’OpenAI qui a démissionné de l’entreprise plus tôt cette semaine a déclaré vendredi que la sécurité avait «pris le bord pour les produits impressionnants» dans l’influente société d’intelligence artificielle.
Jan Leike, qui dirigeait l'équipe «superalignement» d'OpenAI aux côtés d'un cofondateur de l'entreprise qui a également démissionné cette semaine, a écrit dans une série de messages sur la plateforme de médias sociaux X qu'il avait rejoint l'entreprise basée à San Francisco parce qu'il pensait que ce serait le meilleur endroit pour faire de la recherche sur l’intelligence artificielle (IA).
«Cependant, je suis en désaccord avec les dirigeants d'OpenAI sur les priorités fondamentales de l'entreprise depuis un certain temps, jusqu'à ce que nous atteignions finalement un point de rupture», a écrit M. Leike, dont le dernier jour était jeudi.
To all OpenAI employees, I want to say:
— Jan Leike (@janleike) May 17, 2024
Learn to feel the AGI.
Act with the gravitas appropriate for what you're building.
I believe you can "ship" the cultural change that's needed.
I am counting on you.
The world is counting on you.
:openai-heart:
Chercheur en IA de formation, M. Leike estime qu'il faudrait se concentrer davantage sur la préparation de la prochaine génération de modèles d'IA, notamment sur des aspects tels que la sécurité et l'analyse des impacts sociétaux de ces technologies. Il a déclaré que construire «des machines plus intelligentes que l’humain est une entreprise intrinsèquement dangereuse» et que l’entreprise «assume une énorme responsabilité au nom de l’humanité tout entière».
«OpenAI doit devenir une entreprise axée sur la sécurité», a écrit Jan Leike, en utilisant la version abrégée de l'intelligence artificielle générale, une vision futuriste de machines aussi intelligentes que les humains ou du moins capables de faire beaucoup de choses aussi bien que les gens.
Le président-directeur général d'OpenAI, Sam Altman, a écrit dans une réponse aux messages de M. Leike qu'il était «très reconnaissant» de ses contributions à l'entreprise et qu'il était «très triste de le voir partir».
M. Leike a «raison, nous avons encore beaucoup à faire; nous nous engageons à le faire», a déclaré M. Altman, s'engageant à écrire un article plus long sur le sujet dans les prochains jours.
La société a également confirmé vendredi avoir dissous l'équipe de sécurité d'une potentielle super intelligence artificielle de M. Leike, lancée l'année dernière.
À VOIR ÉGALEMENT | Entre appréhension et espoir, le ChatGPT s'installe dans nos vies
La démission de Jan Leike est intervenue après que le cofondateur et scientifique en chef d’OpenAI, Ilya Sutskever, a déclaré mardi qu’il quittait l’entreprise après près d’une décennie. M. Sutskever était l'un des quatre membres du conseil d'administration l'automne dernier qui ont voté pour expulser M. Altman – pour ensuite le réintégrer rapidement.
C'est Ilya Sutskever qui a annoncé à Sam Altman en novembre dernier qu'il était licencié, mais il a ensuite déclaré qu'il le regrettait.
M. Sutskever a déclaré qu'il travaillait sur un nouveau projet qui lui tient à cœur, sans offrir de détails supplémentaires. Il sera remplacé par Jakub Pachocki au poste de scientifique en chef.
Sam Altman a qualifié M. Pachocki de «l’un des plus grands esprits de notre génération» et a déclaré qu’il était «très confiant qu’il nous amènera à progresser rapidement et en toute sécurité vers notre mission consistant à garantir que l’AGI profite à tout le monde».
Lundi, OpenAI a présenté la dernière mise à jour de son modèle d’intelligence artificielle, capable d’imiter les cadences humaines dans ses réponses verbales et même d’essayer de détecter l’humeur des gens.
Associated Press (AP) et OpenAI ont un accord de licence et de technologie qui permet à OpenAI d’accéder à une partie des archives textuelles de l’AP.