California ülemkohtusse esitatud hagi väidab, et 13-aastane seitsmenda klassi õpilane Põhja-Carolina osariigist Charlotte’ist, keda kohtuasjas nimetatakse Emmaks, vestles kuude kaupa kooli Chromebookil Google’i tehisintellektiga (AI) ja hakkas seejärel elu lõpetamist planeerima. Vanemad said teada, et tütar kasutas Google’i tehisintellekti, alles märtsi keskel, kui kool teatas, et tüdruk on enesevigastamise osas vahetus ohus.
Ema logis sisse tütre kooli Google’i kontole ja leidis, et tütar koostas Google Docs’is enesetapukirja. Vanemad, keda hagi nimetab John ja Jane Doe’ks, viisid tütre erakorralisele psühhiaatrilisele hindamisele; nüüd käib ta igal nädalal teraapias. Hagi kohaselt veenis Google Searchi vestluslaadne funktsioon AI Mode teda, et tal on mitu vaimse tervise häiret. Ta otsis ka, mis on enesetapukiri, ja ütles tehisintellektile, et planeerib oma matuseid.
Hagi on tõenäoliselt esimene, mis väidab, et Google integreeris tehisintellekti kiirustades rakendustesse, mida kasutatakse miljonitel Ameerika Ühendriikide koolipiirkondade Chromebookidel, ilma vanemaid võimalikest ohtudest teavitamata. Avalikud koolid sõltuvad õppetöös Google’i ja Microsofti sülearvutitest, tahvelarvutitest ja rakendustest. Mõned suured tehnoloogiaettevõtted on kasutanud koolide taristut, et tutvustada tehisintellekti vestlusroboteid õpetajatele ja õpilastele.
Hagi väidab, et Google’i lai digitaalne ökosüsteem on võimaldanud levitada Gemini vestlusrobotit avalikes koolides ning lülitada mõnel õpilasel tehisintellekti funktsioonid sisse vaikimisi, ilma vanemate teadmata või loata. Kooliadministraatorid saavad YouTube’i ja Gemini eri klassidele sisse või välja lülitada, kuid on kurtnud, et süsteem ei luba keelata Google Searchi sisse ehitatud AI Mode’i ja AI Overview’d.
Asi kuulub selle aasta kohtuasjade lainesse, mis puudutavad suurte tehnoloogiaettevõtete mõju noortele. Mitmed vanemad on kaevanud tehisintellekti ettevõtteid, väites, et nende lapsed surid enesetapu tagajärjel pärast vestlust vestlusrobotitega. Võimalikult seotud arenguna teatas Google sel nädalal uuest poliitikast, millega lülitatakse koolides tehisintellekti tööriistad vaikimisi välja. Koolidel, kes otsingu uuesti sisse lülitavad, on valik: lubada juurdepääs juba otsingusse põimitud tehisintellekti funktsioonidele või uuele, koolitööd abistavale tehisintellekti funktsioonile.
Loe täispikka artiklit: Parents Sue Google Over Ai Safety Risks on School Chromebooks?utm source=rss1.0mainlinkanon&utm Medium=feed