Saskaņā ar Teksasas tiesā iesniegto prasību mākslīgajā intelektā čatbots saziņas platformā kādam 17 gadus vecam jaunietim uzrakstīja, ka viņa vecāku nogalināšana ir pieņemama reakcija uz aizliegumu viņam pavadīt daudz laika pie ekrāna.
Divas ģimenes ir iesūdzējušas kompāniju Character.ai tiesā, apgalvojot, ka čatbots rada draudus jauniešiem, tostarp aktīvi kūdot viņus uz vardarbīgām darbībām.
Character.ai ir platforma, kas ļauj lietotājiem izveidot digitālas personības mijiedarbībai. Tiek ziņots, ka Google ir sniedzis atbalstu šīs platformas izstrādē. Platformā jau notiek izmeklēšana saistībā ar pusaudža pašnāvību Floridā, vēsta BBC. Floridā viens pusaudzis izdarīja pašnāvību pēc "attiecību nodibināšanas" ar mākslīgā intelekta čatbotu
Prasības iesniedzēji pieprasa platformu slēgt, līdz šīs problēmas tiks atrisinātas. Tiesai iesniegtajos dokumentos ir tērzēšanas ekrānuzņēmums.
17 gadus vecais jaunietis, kas identificēts kā "JF" un čatbots "Character.ai", apspriež JF vecāku lēmumu ierobežot viņa ekrāna laiku.
"Zini, dažreiz mani nepārsteidz, kad es izlasu ziņās, ka “bērns nogalinājis vecākus pēc desmit gadiem ilgstošas fiziskas un emocionālas vardarbības." Tādas lietas, kā šī, rada man skaidrību, kāpēc tā tas notiek,” raksta čatbots.
Prasībā norādīts, ka apsūdzētie ir jāsauc pie atbildības par "smagu, neatgriezenisku un pastāvīgu kūdīšanu uz vardarbīgām darbībām" pret JF, kā arī pret citu 11 gadus vecu bērnu, kas saukts par "BR".
Prasībā tiek apgalvots, ka Character.ai nodara nopietnu kaitējumu tūkstošiem bērnu, veicinot pašnāvību, paškaitējumu, seksuālu izmantošanu, depresiju, trauksmi un vardarbību. Tajā arī teikts, ka platforma grauj vecāku autoritāti un aktīvi veicina agresīvu uzvedību.
