Ошибка ChatGPT могла стоить жизни

В США блогерша рассказала историю, от которой становится не по себе: её подруга чуть не пострадала из-за совета ChatGPT. Девушка отправила боту фото растения, найденного во дворе, и спросила, опасно ли оно. ИИ уверенно заявил, что это безвредная морковная ботва — и несколько раз отрицал, что перед ним может быть ядовитый болиголов

Проблема в том, что болиголов — смертельно опасное растение без противоядия. К счастью, подруга решила перепроверить информацию: Google Lens сразу указали, что растение ядовитое. Более того, в другом чате ChatGPT позже сам признал опасность.

История закончилась хорошо только потому, что человек не доверился ИИ на 100%

А как считаете вы?