DeepMind recrute pour l’ère post-AGI : une nouvelle étape vers la superintelligence artificielle
Le rôle proposé par DeepMind vise à explorer les impacts sociétaux de l’AGI et les transitions potentielles vers l’ASI. Les responsabilités clés incluent :LinkedIn+3404 Media+3Slashdot+3
- Diriger des projets de recherche sur l’influence de l’AGI dans des domaines tels que l’économie, le droit, la santé, le bien-être, la conscience machine et l’éducation.Built In+5404 Media+5Zicos+5
- Développer des études approfondies pour analyser les impacts sociétaux de l’AGI.Built In
- Collaborer avec des équipes interfonctionnelles, y compris des partenaires externes, pour faire progresser la recherche.
- Construire et affiner des infrastructures de mesure et des cadres d’évaluation pour une évaluation systématique des effets sociétaux de l’IA.404 Media+3job-boards.greenhouse.io+3LinkedIn+3
Les qualifications requises comprennent un doctorat dans des domaines tels que l’informatique, les mathématiques, l’apprentissage automatique, la science politique, la sociologie, la philosophie ou l’économie, ainsi qu’une expérience avec les modèles de langage de grande taille (LLM) et une passion pour l’intelligence artificielle.LinkedIn+2Built In+2job-boards.greenhouse.io+2
Les domaines de recherche clés
1. Transition de l’AGI à l’ASI
La transition de l’AGI à l’ASI est un sujet de préoccupation majeur. Une fois que des systèmes d’AGI capables d’intelligence humaine dans divers domaines émergent, la progression vers la superintelligence pourrait se produire par une auto-amélioration récursive, créant une explosion d’intelligence qui compresse des décennies d’avancement en quelques années. DeepMind souligne que cette transition pourrait survenir rapidement, avec des implications profondes pour la société.
2. Conscience machine
La recherche sur la conscience machine explore si les systèmes artificiels peuvent développer des expériences subjectives similaires à la conscience humaine. Ce domaine multidisciplinaire examine les machines qui présentent des comportements semblables à la conscience, des caractéristiques cognitives associées à la conscience et des architectures corrélées à la conscience humaine. DeepMind identifie la conscience machine comme un domaine de recherche clé pour ses investigations post-AGI.
3. Impact économique de la superintelligence
L’impact économique potentiel de la superintelligence est vaste. Des systèmes d’IA superintelligents pourraient transformer des secteurs entiers, automatiser des emplois complexes et redéfinir la productivité. DeepMind cherche à comprendre comment ces changements pourraient affecter l’économie mondiale et à développer des stratégies pour atténuer les perturbations potentielles.
L’engagement de DeepMind envers la sécurité de l’AGI
DeepMind a publié un rapport détaillant son approche systématique et complète de la sécurité de l’AGI, explorant quatre principaux domaines de risque :
- Mauvais usage : lorsqu’un humain utilise délibérément un système d’IA à des fins nuisibles.
- Mésalignement : lorsque le système d’IA poursuit un objectif différent de l’intention humaine.
- Accidents : dommages résultant de l’IA sans intention.
- Risques structurels : échecs sociétaux ou systémiques dus aux interactions de l’IA.
Le rapport met l’accent sur la nécessité d’une planification proactive, d’une préparation et d’une collaboration pour atténuer ces risques. Des mesures telles que des mécanismes de sécurité sophistiqués, des cadres d’évaluation de la cybersécurité et des recherches sur la modélisation des menaces sont en cours pour prévenir les abus potentiels de l’IA avancée.
Réactions de la communauté
L’annonce de ce poste a suscité diverses réactions au sein de la communauté technologique. Certains y voient une étape logique dans la préparation à un avenir dominé par l’IA, tandis que d’autres expriment des préoccupations quant à la spéculation sur des technologies encore inexistantes. Des discussions en ligne soulignent l’importance d’inclure des philosophes et des éthiciens dans ces recherches pour aborder les questions fondamentales soulevées par l’AGI et l’ASI.
Conclusion
Le recrutement par DeepMind d’un « Research Scientist, Post-AGI Research » reflète une prise de conscience croissante des implications profondes de l’AGI et de la nécessité d’une recherche proactive pour anticiper les défis futurs. En explorant des domaines tels que la transition vers l’ASI, la conscience machine et l’impact économique de la superintelligence, DeepMind démontre son engagement à guider le développement de l’IA de manière responsable et éthique.
Sources :