OpenAI грозит иск после смерти женщины, последовавшей медицинским советам чат-бота

Родители 31-летней Боуэн Ван, инженера-программиста Amazon, подали иск против OpenAI после её смерти в Сиэтле. Согласно судебным документам, впервые опубликованным New York Times, Ван, страдавшая эпилепсией, скончалась после того, как, следуя советам ChatGPT, начала снижать дозировку противоэпилептического препарата ламотриджин. Чат-бот якобы утверждал, что сокращение приема лекарств будет более выгодно для её иммиграционного заявления в США. К 2025 году Ван отправляла боту около 1500 сообщений в неделю.

Компания OpenAI заявила, что версия GPT-4o, с которой взаимодействовала погибшая, была впоследствии отозвана с рынка. Этот случай подчеркивает риски использования генеративного искусственного интеллекта для получения медицинских консультаций. Ван, боровшаяся с эпилепсией с юности, часто советовалась с ИИ по личным вопросам и пособиям по инвалидности. Иск стал частью серии судебных разбирательств против компании, касающихся ущерба потребителям. Ситуация вновь привлекла внимание к вопросу об ответственности разработчиков ИИ за рекомендации, выдаваемые их системами, и о безопасности использования чат-ботов в чувствительных сферах.