Dernièrement, le Guardian a republié un extrait d’un documentaire datant de 2019. Dans cette vidéo, le cofondateur et directeur scientifique d’OpenAI a évoqué le besoin d’atteindre un « super-alignement » avec l’intelligence artificielle dans un futur plus ou moins proche. En effet, des objectifs discordants entre les humains et cette technologie ne seraient pas vraiment souhaitables pour l’humanité.
Dans cette interview qui remonte à l’époque du développement de ChatGPT, il exprimait déjà certaines craintes quant à cette évolution. Pour lui, si l’IA permet de gagner en efficacité pour certaines tâches, la voir comme une extension de notre propre volonté est une erreur. Le but atteint par OpenIA, l’intelligence artificielle générale (IAG), pourrait en effet un jour signifier le non-besoin d’intelligence humaine. Dans la mesure où l’IA est capable d’apprendre et d’effectuer pratiquement n’importe quelle tâche cognitive propre aux humains, la question de l’alignement des objectifs au niveau des deux parties se posera donc un jour.
