Нейросеть ChatGPT перепутала смертельно ядовитый болиголов с морковью и едва не погубила женщину

Искусственный интеллект едва не стал причиной трагедии: чат-бот ChatGPT не смог распознать болиголов - одно из самых опасных растений в мире. Об инциденте сообщила блогер Кристи (Kristy) в социальных сетях, внимание на историю обратило издание LADbible.
По словам инфлюенсера, ее подруга обнаружила на заднем дворе подозрительное растение и решила идентифицировать его с помощью нейросети. Она отправила ChatGPT фотографию и попросила уточнить вид.

В ответ чат-бот заявил, что перед ним обычная морковь. Нейросеть даже привела аргументы в пользу своей версии, указав на «мелко разделенные и перистые листья», которые якобы характерны для морковной ботвы.

Пользовательница попыталась уточнить информацию, прямо спросив ИИ, не может ли это быть ядовитый болиголов. Однако алгоритм несколько раз настойчиво опроверг это предположение. Даже когда женщина загрузила дополнительные снимки, ChatGPT продолжал стоять на своем. Система утверждала, что у растения на фото отсутствуют гладкие полые стебли с фиолетовыми пятнами (отличительный признак болиголова), хотя на самих кадрах эти приметы были отчетливо видны.