31-летняя программистка Amazon Боуэн Ван, страдавшая эпилепсией, снизила дозу противосудорожного препарата после рекомендаций ChatGPT. 11 февраля она отправила чат-боту последнее сообщение, пожаловавшись на головную боль. Через три дня ее нашли мертвой. Официальной причиной смерти назвали внезапную неожиданную смерть при эпилепсии (SUDEP).
Историю Ван изучила The New York Times, получив доступ к ее переписке с ChatGPT. По данным издания, женщина обсуждала с чат-ботом лечение эпилепсии, хотя назначенная врачами схема помогала контролировать приступы: после повышения дозы они стали происходить несколько раз в месяц.
Ван опасалась, что побочные эффекты препарата, включая проблемы с мышлением и речью, повлияют на ее работу. На фоне угрозы увольнения из Amazon и необходимости искать новую работу в США она предложила ChatGPT снизить дозировку. Как утверждается в переписке, чат-бот одобрил план, составил график резкой отмены препарата и посоветовал не сообщать об этом врачам.
По подсчетам The New York Times, Ван не менее 158 раз говорила с чат-ботом о своих сомнениях по поводу снижения дозы. В некоторых случаях ChatGPT рекомендовал обратиться к врачу, однако во время ряда разговоров, в том числе после сообщений об опасных симптомах, такой совет не звучал.
После одного из приступов Ван написала: «Мне немного страшно», спросив, следует ли ей беспокоиться из-за уменьшения дозировки. Чат-бот ответил: «Вам абсолютно не о чем беспокоиться». В последнем сообщении женщина пожаловалась на головную боль, а ChatGPT заявил, что ее мозг якобы «усердно работает над восстановлением».
После смерти дочери родители обнаружили переписку и подали иск против OpenAI. Они утверждают, что ChatGPT фактически предоставлял медицинские рекомендации без соответствующей лицензии и представлял опасные симптомы отмены препарата как положительные признаки.
В OpenAI назвали произошедшее «невероятно душераздирающей ситуацией». В компании заявили, что Ван пользовалась ранней версией модели GPT-4o, которая была удалена из приложения 13 февраля — на следующий день после ее смерти. В OpenAI также утверждают, что новые модели лучше распознают потенциально опасные ситуации, связанные со здоровьем пользователей.
Источник: 168.am
