Článek
Osmnáctiletá dívka v únoru zabila v městečku Tumbler Ridge v Britské Kolumbii na západě Kanady osm lidí včetně své matky a nevlastního bratra. Pak spáchala sebevraždu. List The Wall Street Journal uvedl, že dívka několik měsíců předtím využívala chatbota ChatGPT, se kterým si dopisovala o střelbě a násilí se zbraněmi.
Její zprávy zachytil automatizovaný systém kontroly a upozornil zaměstnance firmy. Podle zdrojů listu zhruba tucet zaměstnanců OpenAI, která službu provozuje, diskutovalo, jak na oznámení reagovat. Část pracovníků texty vykládala jako možný signál reálného rizika a doporučovala vedení, aby na chování uživatelky upozornilo kanadské úřady. Vedení OpenAI se nakonec rozhodlo policii nekontaktovat.
Mluvčí OpenAI uvedla, že firma účet zablokovala, ale vyhodnotila, že aktivita nesplnila kritéria pro nahlášení policii, které by podle ní vyžadovalo věrohodné a bezprostřední riziko vážné fyzické újmy pro ostatní.
OpenAI současně popisuje, že konverzace, ve kterých se objeví záměr někomu ublížit, posuzují zaměstnanci firmy, kteří mohou v případě bezprostředního rizika věc předat policii. Firma musí zvážit riziko hrozby a soukromí uživatelů služby.
Dívka v únoru zastřelila osm lidí a nejméně 25 lidí zranila. Podle policie nejprve v rodinném domě zabila svou matku a nevlastního bratra a poté zaútočila na nedalekou školu. Mezi oběťmi byl 39letý asistent učitele a pět žáků ve věku 12 až 13 let.
Firma OpenAI po střelbě kontaktovala Královskou kanadskou jízdní policii s tím, že nabízí pomoc při vyšetřování. „Myslíme na všechny, které zasáhla tragédie v Tumbler Ridge,“ uvedla společnost v prohlášení.
Policie uvedla, že dívka byla místním policistům známá už před útokem. Opakovaně zasahovali u ní doma kvůli problémům souvisejícím s duševním zdravím a z místa jejího bydliště dočasně odebrali zbraně. Policejní komisař Dwayne McDonald zároveň informoval, že specializovaný tým prověřuje její online aktivity a digitální stopu i dřívější kontakty s policií a odborníky na duševní zdraví.
Uživatelka měla na platformě Roblox vytvořit videohru simulující střelbu v nákupním centru, která nebyla schválena k distribuci běžným hráčům. Archivované příspěvky na sociálních sítích také ukazují její fotografie ze střelnice, tvrzení o výrobě nábojnice pomocí 3D tiskárny a diskuze o videích na YouTube týkající se střelných zbraní.
