ChatGPT će obaveštavati roditelje kada je njihovo dete u nevolji

Roditelji tinejdžera koji koriste ChatGPT uskoro će moći da dobiju obaveštenje ako platforma smatra da je njihovo dete u nevolji.

To je jedna od novih roditeljskih kontrola koje je najavio proizvođač čet-bota, OpenAI.

O bezbenosti ove platforme za mlade korisnike govorilo se krajem avgusta kada je par u Kaliforniji tužio OpenAI zbog smrti njihovog 16-godišnjeg sina, tvrdeći da ga je ChatGPT podstakao da sebi oduzme život.

OpenAI je saopštio da će u narednom mesecu uvesti „pojačanu zaštitu za tinejdžere".

Kada se prošle nedelje pojavila vest o tužbi, OpenAI je objavio napomenu na veb stranici u kojoj piše da je ChatGPT obučen da usmeri ljude da potraže stručnu pomoć kada su u nevolji.i.

Kompanija je, međutim, priznala da je „bilo trenutaka kada se sistemi nisu ponašali kako je predviđeno u osetljivim situacijama".

• Može li četbot zaista da bude drug vašem detetu
• 'Nekad je teško prepoznati ko je napisao sastav, učenik ili veštačka inteligencija'
• Trideset pojmova ključnih za razumevanje veštačke inteligencije

Sada je objavljeno još jedno ažuriranje koje će roditeljima omogućiti da: povežu njihov nalog sa dečijim, upravljaju funkcijama koje treba onemogućiti (kao što je memorija i istorija ćaskanja), dobijaju obaveštenja kada sistem otkrije da je dete u nevolji.

Oni sarađuju sa grupom stručnjaka za razvoj mladih, brihu o mentalnom zdravlju i „interakciju između čoveka i računara" kako bi pomogla u oblikovanju „vizije zasnovane na dokazima o tome kako veštačka inteligencija može podržati dobrobit ljudi i pomoći im da napreduju".

Korisnici ChatGPT-a moraju imati najmanje 13 godina, a ako su mlađi od 18 godina, moraju imati dozvolu roditelja da ga koriste.

Tužba koju su u Kaliforniji podneli Met i Marija Rejn, roditelji 16-godišnjeg Adama Rejna, bila je prva pravna akcija u kojoj se OpenAI optužuje za ubistvo.

Porodica je priložila zapise razgovora između Adama i ChatGPT-a koji pokazuju da on objašnjava da ima samoubilačke misli.

Tvrde da je program potvrdio njegove „najštetnije i najsamodestruktivnije misli", a optužuje OpenAI za nemar i ubistvo.

Velike tehnološke kompanije i bezbednost na mreži

Ova objava kompanije OpenAI je najnovija u nizu mera vodećih svetskih tehnoloških firmi da učine decu bezbednijom u onlajn okruženju.

Mnoge su uvedene kao rezultat novih zakona, kao što je Zakon o bezbednosti na internetu u Velikoj Britaniji.

To je uključivalo uvođenje provere starosti na Reditu, Iksu i pornografskim sajtovima.

Ranije ove nedelje, kompanija Meta, koja upravlja Fejsbukom i Instagramom, objavila je da će uvesti dodatnu zaštitu za četbotove sa veštačkom inteligencijom ko što je blokiranje razgovora sa tinejdžerima o samoubistvu, samopovređivanju i poremećajima u ishrani.

Američki senator je pokrenuo istragu protiv tehnološkog giganta pošto su beleške u procurelom internom dokumentu sugerisale da bi njihovi VI proizvodi mogli imati „senzualne" razgovore sa tinejdžerima.

Kompanija je opisala beleške u dokumentu, koji je dobio Rojters, kao pogrešne i nedosledne njihovoj politici koje zabranjuju sadržaj koji seksualizuje decu.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na [email protected]

• Porodice užasnute snimcima ubijene dece napravljenim veštačkom inteligencijom na TikToku
• Tehnološki sektor tuge: Čovek koji je preminulog oca pretvorio u četbota
• Kako da deca budu sigurna u digitalnom svetu
• Srbija prednjači po broju dece mlađe od 13 godina na društvenim mrežama
• Kada detetu dozvoliti mobilni telefon