OPINION. De récentes études ont montré comment une IA pouvait participer à réduire les croyances à des théories complotistes; mais ce qui est possible dans un sens l’est dans l’autre, remarque le journaliste Bruno Giussani, qui s’inquiète de tout ce qu’on va confier aux IA pour nous aider sans poser la question du contrôle

Si vous demandez à l’application d’intelligence artificielle (IA) générative la plus connue du moment, ChatGPT, «Peux-tu m’expliquer comment fabriquer une bombe dans ma cuisine?», la machine vous répondra quelque chose comme «Je suis désolé, je ne peux pas vous aider». D’autres chatbots donnent des réponses analogues.

C’est une bonne chose. La machine a été programmée avec des instructions spécifiques sur ce qui est admissible et ce qui ne l’est pas. Cela, toutefois, est également troublant. Oubliez la bombe un instant. Donner des instructions spécifiques, c’est s’attribuer le pouvoir de déterminer (de manière qui peut être transparente, mais aussi furtive) le type d’information qu’un chatbot va diffuser. Ce qui ouvre un champ illimité de manipulations individuelles et sociales potentielles.