Les proches des victimes de la tuerie de Tumbler Ridge, en Colombie-Britannique, ont déposé plainte contre la maison mère de ChatGPT et son PDG, Sam Altman, ce mercredi 29 avril. Selon eux, OpenAI avait identifié Jesse Van Rootselaar, 18 ans, comme une menace huit mois avant l'attaque, mais n'avait jamais alerté la police. Cette décision aurait été prise par la direction, afin d'éviter qu'un signalement officiel ne révèle l'ampleur des conversations violentes sur la plateforme et ne compromette son projet d'introduction en Bourse. La valorisation attendue d'OpenAI est estimée à 1 000 milliards de dollars, ce qui pourrait faire de son PDG l'une des personnes les plus riches au monde.
Négligence, complicité et homicide involontaire
Le 10 février, Jesse Van Rotselaar, 18 ans, a d'abord tué sa mère et son petit frère de 11 ans à leur domicile avant de se rendre dans son établissement scolaire. Il y a abattu cinq élèves ainsi qu'une assistante pédagogique de 39 ans, blessé 27 autres personnes, puis s'est suicidé.
Les sept familles accusent OpenAI et Sam Altman de négligence, de complicité dans une fusillade de masse, d'homicide involontaire et de responsabilité liée au produit. Selon l'une des plaintes, les systèmes internes d'OpenAI avaient repéré, huit mois avant l'attaque, des conversations dans lesquelles l'assaillant décrivait des scénarios violents. Des employés auraient alors recommandé de signaler le compte à la police, rapporte The Guardian. L'entreprise assure avoir suspendu ce premier compte, mais le tireur aurait rapidement pu en créer un second. Les avocats des familles affirment qu'OpenAI fournit aux utilisateurs désactivés des indications leur permettant de revenir facilement sur ChatGPT.
La réponse d'OpenAI
Deux semaines après la fusillade, la vice-présidente chargée de la politique mondiale chez OpenAI, Ann O’Leary, a adressé une lettre à Evan Solomon, ministre canadien de l’intelligence artificielle et de l’innovation numérique. Sur ces quelques lignes, l'employée expliquait que, d’après les éléments examinés lors de la fermeture du compte, l'entreprise n'avait pas identifié de "plan crédible et imminent" justifiant un signalement aux forces de l'ordre. "Le fait que Sam et la direction aient ignoré l’avis de l’équipe chargée de la sécurité, puis que des enfants soient morts, que des adultes soient morts, et que toute la ville ait été détruite, correspond à peu près à ma définition du mal", a cinglé Jay Edelson, l’avocat principal représentant les plaignants de Tumbler Ridge auprès du Guardian.
Interrogé par le quotidien britannique, OpenAI s'est défendu par la voix de son porte-parole. "Comme nous l'avons indiqué aux autorités canadiennes, nous avons déjà renforcé nos mesures de protection, notamment en améliorant la façon dont ChatGPT réagit aux signes de détresse, en orientant les personnes vers des ressources locales d'aide et de santé mentale, en renforçant notre façon d'évaluer et de signaler les menaces de violence potentielle", a assuré l'entreprise, qualifiant la fusillade de "tragédie".
Les excuses de Sam Altman
Quelques jours avant le dépôt des plaintes, Sam Altman avait adressé une lettre d'excuses aux habitants de Tumbler Ridge. "Même si je sais que les mots ne suffiront jamais, je pense qu'il est nécessaire de présenter des excuses pour reconnaître le préjudice et la perte irréversible que votre communauté a subis", écrivait-il, réaffirmant son "engagement" à empêcher que de "telles tragédies ne se reproduisent".
Un flot de plaintes
Ces nouvelles plaintes s'inscrivent dans un flot de poursuites judiciaires contre des géants de l'intelligence artificielle. De nombreuses personnes accusent les chatbots d'aggraver la santé mentale de leurs utilisateurs et d'inciter à des actes de violence. En novembre, sept plaintes ont été déposées contre OpenAI, reprochant à ChatGPT d'agir comme un "coach de suicide". Plusieurs parents assurent que leurs enfants mineurs sont passés à l'acte après les encouragements du robot.
Et le cas de Tumbler Ridge n'est pas non plus inédit. En avril, le procureur général de Floride a également ouvert une enquête contre OpenAI après une fusillade de masse sur le campus de l'université de l'État. Les messages échangés entre l'IA de Sam Altman et le tireur ont été examinés par le procureur qui affirme que "ChatGPT a donné des conseils importants à ce tireur avant qu'il ne commette ces crimes".
L'avocat des sept familles de Colombie-Britannique prévoit de déposer une vingtaine de nouvelles plaintes d'autres victimes dans les prochaines semaines. Parmi les plaignants figure notamment une fillette de 12 ans, toujours en soins intensifs après avoir été touchée par balles à la tête, au cou et à la joue.
