Erről nem beszél a jövőben a ChatGPT

Altman szerint az OpenAI olyan rendszeren dolgozik, amely a felhasználói viselkedés alapján becsülné meg az életkort; ha valaki nem tud meggyőzően dönteni, biztonsági okokból automatikusan a kiskorúakra szabott, szigorúbb beállítás lép életbe. Bizonyos esetekben szükség lehet személyazonosság-ellenőrzésre is — írta a vezérigazgató.

Amennyiben a rendszer kiskorúnak azonosít valakit, a chatbot nem ad tanácsot önsértéssel vagy öngyilkossággal kapcsolatban, és kerüli a kacérkodó, szexuális hangvételű megnyilvánulásokat is, még akkor is, ha a fiatal kéri ezt. Emellett az OpenAI azt ígéri, hogy ha egy felhasználó ártani akar magának, a szolgáltatás megkísérli értesíteni a szülőket vagy az illetékes hatóságokat – írja a life.hu.

A vállalati lépés hátterében jogi és társadalmi nyomás áll: nemrégiben egy brit család pert indított az OpenAI ellen, miután tizenhat éves fiuk hónapokon át olyan beszélgetéseket folytatott a chatbotokkal, amelyek a szülők állítása szerint nem térítették el elég határozottan a fiatalt a veszélyes terveitől. Az ügyet követően az OpenAI belső vizsgálatokat indított, és komoly biztonsági intézkedéseket kezdeményezett.

Az OpenAI tervei azonban további technikai és jogi kérdéseket vetnek fel, például, hogy hogyan azonosítják a felhasználókat, és vissza tudnak-e élni adatokkal. Altman bejegyzése szerint a cég ezeken a kérdéseken is dolgozik, azt szeretnék, hogy a szolgáltatás egyszerre legyen hasznos és biztonságos.