Open AI uvodi stroga pravila za mlade korisnike

Američka kompanija za razvoj vještačke inteligencije Open AI uvela je niz novih pravila za korisnike četbotova mlađe od 18 godina, koja podrazumijevaju i ograničavanje razgovora o seksualnim temama i samopovrjeđivanju, saopštio je njen izvršni direktor Sem Altman.

Firma ističe da je “bezbjednost važnija od privatnosti i slobode za tinejdžere” i da maloljetni korisnici treba da budu dodatno zaštićeni, prenosi Teh kranč.

Altman je istakao da će Open AI razvijati dugoročni sistem za razlikovanje korisnika starijih i mlađih od 18 godina, uz standard da se u nejasnim slučajevima primjenjuju stroža pravila.

Prema novim pravilima, alat ChatGPT više neće učestvovati u “flert razgovorima” sa tinejdžerima, a dodatne sigurnosne mjere uvedene su u razgovore o scenarijima samoubistva.

Ako maloljetnik koristi ChatGPT za zamišljanje suicidalnih situacija, sistem će pokušati da kontaktira roditelje, a u posebno ozbiljnim slučajevima i lokalnu policiju.

Roditelji koji povežu nalog djeteta sa svojim nalogom dobijaju mogućnost da podešavaju “vrijeme blokade” kada ChatGPT nije dostupan i da budu obavješteni ako sistem vještačke inteligencije procjeni da je tinejdžer u opasnosti.

Nove mjere dolaze u kontekstu tužbi zbog smrti maloljetnika Adama Rejna koji je izvršio samoubistvo nakon više mjeseci komunikacije sa alatom ChatGPT.

(Blic) Foto: AP Photo/Kiichiro Sato