Début janvier 2025, OpenAI a coupé l’accès à son API à un développeur connu sous le pseudo « STS 3D ». Ce dernier avait diffusé une vidéo montrant un fusil monté sur une tourelle motorisée, commandé à la voix via ChatGPT. Retour sur l’affaire, rapportée par Futurism et Gizmodo.
- Quoi : une tourelle armée amateur, pilotée par commandes vocales grâce à l’API Realtime d’OpenAI, filmée en train de tirer sur les murs d’une pièce.
- Qui et quand : le développeur « STS 3D » ; OpenAI a confirmé à Futurism, le 8 janvier 2025, avoir exigé qu’il cesse cette activité.
- Pourquoi ça compte : les règles d’usage d’OpenAI interdisent de développer ou d’utiliser des armes avec ses services, alors que l’entreprise se rapproche elle-même du secteur de la défense.
Les points :
Un projet controversé qui fait des vagues #
L’affaire part d’une vidéo devenue virale sur Reddit. On y voit le créateur de la tourelle lancer à voix haute : « ChatGPT, nous sommes attaqués à l’avant gauche et à l’avant droite ». L’arme pivote alors et tire sur les murs voisins. Selon Futurism, il s’agissait apparemment de balles à blanc. La rapidité de réaction de cette arme, soulignée par Gizmodo, a nourri de vives inquiétudes sur l’usage de l’intelligence artificielle dans des contextes potentiellement mortels.
Le média précise que la manière exacte dont STS 3D a intégré les outils d’OpenAI à son projet reste floue, et que le développeur n’a pas répondu à ses sollicitations.
À lire Anthropic en route pour lever 2 milliards de dollars, une valorisation à 60 milliards
OpenAI, consciente des risques, a réagi rapidement : un porte-parole a indiqué à Futurism que l’entreprise avait elle-même repéré l’infraction et demandé au développeur d’arrêter. Les règles d’usage de l’entreprise interdisent d’employer ses services pour développer ou utiliser des armes, ou pour automatiser certains systèmes susceptibles d’affecter la sécurité des personnes.
Les dangers de l’automatisation des armes #
Pour Gizmodo, l’épisode illustre une inquiétude bien plus large, qui dépasse les seuls spécialistes en intelligence artificielle. Des drones autonomes capables d’identifier et de frapper des cibles sans intervention humaine sont en cours de développement. Le média estime qu’un tel usage encourage la complaisance des opérateurs et rend la question de la responsabilité très difficile à trancher, comme le redoutent de nombreux experts de l’IA.
Gizmodo rappelle aussi une enquête du Washington Post selon laquelle Israël a utilisé l’IA pour sélectionner des cibles de bombardement, parfois de manière indiscriminée. Ce précédent met en lumière le danger de l’IA dans des contextes militaires et pose une question simple : qui est responsable lorsqu’une décision tragique est prise par une machine ?
Les implications éthiques et politiques de l’IA dans la défense #
Le débat reste vif. Les partisans de ces technologies avancent qu’elles protègent les soldats en les tenant à distance des combats, qu’elles facilitent la reconnaissance et qu’elles permettraient des frappes plus précises, ce qui dépend toutefois de l’usage qui en est fait. Les critiques citées par Gizmodo jugent que les États-Unis feraient mieux de renforcer leur capacité à brouiller les communications ennemies, afin de compliquer le lancement de drones par leurs adversaires.
La position d’OpenAI est elle-même scrutée. Futurism rappelle que l’entreprise a discrètement retiré en 2024 la mention qui excluait les usages militaires de ses règles, tout en maintenant l’interdiction de nuire à autrui, armes comprises. En décembre 2024, elle a aussi annoncé un partenariat avec Anduril, fabricant de drones et de missiles, pour des systèmes de défense contre les attaques de drones.
- OpenAI interdit l’utilisation de ses produits pour développer ou utiliser des armes.
- Selon Gizmodo, de nombreux modèles open source échappent à ce type de restriction et peuvent servir à des fins militaires.
- L’impression 3D de pièces d’armement rend, toujours selon Gizmodo, la situation encore plus préoccupante.
- Gizmodo s’attend à ce que les entreprises de la « défense tech » profitent de l’arrivée de la nouvelle administration Trump.
- Le débat éthique sur l’automatisation des armes est plus pertinent que jamais.
Le monde de la technologie et de la défense est à un tournant. OpenAI affiche une position ferme contre l’usage de ses outils à des fins létales, tandis que d’autres acteurs, et elle-même via Anduril, explorent les applications militaires de l’IA. Gouvernements et entreprises ont tout intérêt à fixer des règles claires pour ces usages sensibles.
- En janvier 2025, OpenAI a sommé le développeur « STS 3D » de cesser d’utiliser ses outils pour piloter une tourelle armée.
- Motif invoqué : ses règles d’usage interdisent le développement et l’utilisation d’armes.
- L’affaire relance le débat sur les armes autonomes, alors qu’OpenAI s’est elle-même rapprochée d’Anduril.
Questions fréquentes #
Qui est « STS 3D » ?
Pourquoi OpenAI a-t-elle coupé son accès ?
OpenAI travaille-t-elle avec l’armée ?
Pour aller plus loin, vous pouvez aussi page.
Pourquoi un développeur a-t-il pensé que créer une tourelle était une bonne idée ? 🤔
OpenAI a bien fait de mettre fin à ce projet, c’était dangereux !
On vit vraiment dans un film de science-fiction maintenant !
Cette histoire me fait penser à Terminator, ça fait flipper ! 😱
Est-ce que c’est légal de créer des armes automatisées ?
Bravo pour l’initiative, mais c’était un peu extrême, non ?
Le développeur devait s’attendre à quoi en créant ça ? 🤷♂️
J’espère qu’il n’y a pas d’autres projets similaires en cours.
Le futur des armes est vraiment inquiétant… 😟
Cette tourelle aurait pu causer de gros problèmes !
Quelqu’un a-t-il des nouvelles du développeur ?
Il aurait pu faire un robot qui fait des cafés, ça aurait été mieux ! ☕️
Les gens devraient réfléchir avant de créer des choses comme ça.
OpenAI a bien fait de couper les ponts, c’est pour la sécurité !
Est-ce qu’on va voir plus de projets comme celui-ci à l’avenir ?
La technologie est incroyable, mais elle doit être utilisée avec précaution.
Je me demande ce que pense la communauté des développeurs de ça.
Des tourelles, vraiment ? On touche le fond ! 😂
Imaginez si ça tombait entre de mauvaises mains… 😳
Le débat sur l’éthique de l’IA est crucial, on ne peut pas l’ignorer.
Il faut des lois plus strictes sur l’IA et l’automatisation des armes.
Un bon développeur aurait dû voir les risques avant de se lancer !
Les implications militaires de l’IA sont un vrai sujet de préoccupation.