Eric Salobir — Coder une conscience dans l'IA ? | Comptoir IA #131

Nicolas GuyonBonjour Eric. Aujourd'hui je suis ravi de recevoir Eric Salobir. Eric est le president de la Human Technology Foundation et membre du Conseil national du numerique.

Eric SalobirMerci a toi, c'est un plaisir.

Eric SalobirCa fait 20 ans que je travaille a l'intersection de la technologie et de l'ethique. La question fondamentale c'est : comment faire en sorte que la technologie serve l'humain et pas l'inverse.

Nicolas GuyonPeut-on coder une conscience dans l'IA ?

Eric SalobirOn ne peut pas coder une veritable conscience morale. Mais on peut implementer des garde-fous ethiques robustes. Le RLHF est un debut, mais les techniques de jailbreak montrent ses limites.

Eric Salobir78% des entreprises deploient l'IA sans cadre ethique defini. C'est alarmant. La Human Technology Foundation travaille avec 15 gouvernements pour creer des standards.

Eric SalobirL'IA Act classe les systemes par niveau de risque, c'est bien. Mais il ne couvre pas les agents autonomes, les deepfakes evolues. Il faudra des mises a jour regulieres.

Eric SalobirEn sante, un diagnostic IA errone sans supervision humaine peut avoir des consequences mortelles. En justice, des algorithmes biaises perpetuent les discriminations. La transparence algorithmique est essentielle.

Eric SalobirLe risque principal n'est pas l'IA sentiente, c'est l'utilisation irresponsable d'IA non-sentiente par des humains. C'est la que le travail ethique est crucial.

Eric SalobirLes utilisateurs doivent savoir quand ils interagissent avec une IA. La regulation doit etre proportionnelle aux risques. Et l'education est la cle.

Nicolas GuyonMerci Eric, c'est un sujet fondamental. On a besoin de voix comme la tienne pour guider cette revolution.