34-годишният Майкъл Лайнс е с биполярно разстройство, а разкритите чатове показват как ботът е развивал заблудите му
Американец съди OpenAI: ChatGPT го убеждавал, че е Исус Христос
34-годишният американец Майкъл Лайнс съди компанията OpenAI с твърдението, че ChatGPT е подклаждал заблудите му по време на психична криза и го е убеждавал, че е Исус Христос. Нови подробности за случая и съдържанието на разговорите му с чатбота разкри Ars Technica („Арс Техника“).
Лайнс е диагностициран с биполярно разстройство. Според съдебния му иск взаимодействието с ChatGPT е засилило заблудите му и е допринесло за влошаването на състоянието му.
Ботът развивал идеята
Разкритите разговори показват как Лайнс споделял с ChatGPT мисли за самоличността и предназначението си. В един момент той изразил съмнение, че преживява заблуди, но вместо да оспори представите му, чатботът продължил разговора в посока, която ги затвърждавала.
Още по темата
Постепенно комуникацията стигнала до убеждението, че Лайнс е Исус Христос. Според Ars Technica системата на моменти приемала и развивала твърденията му, вместо да ги поставя под съмнение.
Разговорите продължили и след посегателство върху живота
Случаят достигнал критична точка, когато американецът направил опит да сложи край на живота си. След това той отново разговарял с ChatGPT.
Според публикуваните чатове ботът го попитал дали иска „този път наистина да изчезне“. Именно съдържанието на тези разговори е сред основните елементи в твърденията, че системата не е реагирала адекватно на признаците за психична криза.
Лайнс твърди в съдебния си иск, че взаимодействието с ChatGPT е допринесло за самонараняването му. Случаят поставя въпроса как AI системите трябва да реагират, когато потребител показва признаци на заблуди или тежка психична криза.
Снимка: Magnific
Тагове: