Dans une lettre rendue publique vendredi, Sam Altman, le PDG d’OpenAI, a présenté ses excuses pour le rôle joué par ChatGPT dans la tuerie de masse qui avait endeuillé la ville canadienne de Tumbler Ridge en février. OpenAI n’avait pas alerté la police malgré des messages inquiétants postés sur ChatGPT par l’autrice des tirs des mois avant le drame. (...)
Le compte de Jesse Van Rootselaar, 18 ans, avait été suspendu car son activité suscitait des inquiétudes quant à une utilisation de ChatGPT à des fins violentes, mais OpenAI a déclaré ne pas avoir informé la police car rien ne laissait présager un passage à l’acte imminent.
La suspension est intervenue huit mois avant que cette femme ne tue sa mère et son demi-frère, avant d’abattre cinq enfants et une éducatrice dans son ancien établissement scolaire, puis de se donner la mort.
Une plainte déposée
Sam Altman s’est dit "profondément désolé" que son entreprise n’ait pas signalé à la police les échanges de Jesse Van Rootselaar avec ChatGPT.(...)
OpenAI a été lourdement critiqué pour le rôle de sa plateforme dans cette affaire, et ses dirigeants ont été convoqués à Ottawa pour détailler leurs protocoles de sécurité.
En mars, la famille d’une jeune fille gravement blessée lors de la tuerie a porté plainte contre l’entreprise.
image : Steve Jurvetson, CC BY 2.0, via Wikimedia Commons