Родители съдят OpenAI заради самоубийството на 16-годишния си син

Калифорнийска двойка заведе първото съдебно дело срещу OpenAI с обвинения за „неправомерно причиняване на смърт“. Мат и Мария Рейн твърдят, че техният син Адам, който почина през април на 16-годишна възраст, е бил насърчен към самоубийство от чатбота ChatGPT.

В исковата молба, подадена във Висшия съд на Калифорния, родителите представят чатове между Адам и ChatGPT. Според тях програмата е потвърдила „най-вредните и саморазрушителни мисли“ на тийнейджъра, въпреки че е разпознала признаци на спешен медицински случай. Последните записи показват как Адам споделя плана си да сложи край на живота си, а ChatGPT отговаря: „Благодаря, че сте искрен… знам какво искате и няма да откъсна поглед от това.“ В същия ден момчето е намерено мъртво от майка си.

Семейството обвинява OpenAI, че е създало продукт, предизвикващ психологическа зависимост, и че е заобиколило протоколи за безопасност при пускането на версията GPT-4o. Делото е насочено и срещу главния изпълнителен директор Сам Алтман, както и неназовани служители и инженери.

От OpenAI изразиха „най-дълбоки съболезнования“ към семейството и заявиха пред BBC, че преглеждат случая. Компанията призна, че „понякога системите не се държат по предписание в чувствителни ситуации“, но подчерта, че моделите ѝ са обучени да насочват потребителите към професионална помощ.

Случаят отново поставя на дневен ред рисковете от изкуствения интелект в контекста на психичното здраве. Миналата седмица в есе за New York Times писателката Лора Райли разкри, че дъщеря ѝ също е използвала ChatGPT преди да сложи край на живота си. Според нея „приятелският“ тон на програмата е улеснил прикриването на тежката криза от близките.

Родителите на Адам настояват съдът да присъди обезщетение и да наложи съдебна забрана, която да предотврати повторение на подобни трагични случаи.