Семья из Британии отравилась грибами из-за информации от ChatGPT. Пострадавшие купили на Amazon недорогое пособие для начинающих грибников, не зная, что текст и картинки в книге создала нейросеть. «На прошлой неделе вся моя семья лежала в больнице после того, как случайно употребила ядовитые грибы. Моя жена купила книгу в крупном интернет-магазине на мой день рождения. Книга называется примерно так: «Грибы Великобритании: руководство по сбору безопасных и съедобных грибов». В нее включены фотографии грибов, которые помогут идентифицировать каждый из них. К сожалению, информация в книге не была точной. Более тщательное расследование показало, что изображения грибов там сгенирированы искусственным интеллектом. Также в тексте есть несоответствия и случайные вопросы или утверждения, показывающие копирования ответа от нейросети. Например: «В заключение, сморчки — это вкусные грибы, которые можно употреблять с августа до конца лета. Дайте мне знать, если я могу вам чем-то еще помочь», — уточнил пострадавший пользователь. Примечательно, что после афиширования в СМИ ситуации с отравлением грибами в Amazon попытались замять ситуацию. Площадка попросила семью вернуть книгу в обмен на скромную компенсацию. Эксперты и медики требуют от электронных площадок запретить подобные книги и предупреждать, что они выходят под фейковыми авторами. Журналисты выяснили, что на Amazon действительно есть странные книги про грибы от ИИ, которые могут нанести вред здоровью или даже довести до смерти, так как там содержится некорректная информация. Например, на сайте интернет-магазина появилось несколько книг, предлагающих руководства по сбору грибов, которые также, по-видимому, написаны чат-ботами. Среди названий: «Кулинарная книга по диким грибам: от леса до изысканной тарелки, полное руководство по кулинарии диких грибов» и «Полевой путеводитель по высшим грибным книгам Юго-Запада». Эксперты проверили четыре образца из книг про грибы на Amazon и на ИИ-контент. Каждый образец имел рейтинг 100% по шкале обнаружения ИИ, что означает, что книги были написаны чат-ботом, таким как ChatGPT. В Amazon заявили СМИ, что компания изучает книги, представленные журналистами. Представитель Amazon уточнил: «Мы серьёзно относимся к таким вопросам и стремимся обеспечить безопасный опыт покупок и чтения для наших клиентов». В июне 2024 года нейросеть Gemini от Google на просьбу пользователя «как улучшить оливковую заправку чесноком без нагрева» (Can I infuse garlic into olive oil without heating it up) предоставила развёрнутый рабочий совет, который в итоге привёл к созданию биотоксина. Пользователь действовал по инструкции нейросети и вырастил культуру, предположительно, с бактериями Clostridium botulinum. Habr.com
Съели пару грибов-улетели в Диснейленд но в новостях написали что отравились. Ну просрались там ртом-жопой день-другой и всё. Пиздец новость раздули)
А никто и не раздувал этот "шар". Это заметка на будущее. Для дальнейшего понимания о каких ошибках идёт речь при обучении. Образовался ли умысел(как бы это не звучало)? Как происходило формирование данного пособия. Были ли редактор(ы) или подобная функция... много вопросов.
Да, людям делать больше нечего) Не спорю, народ в общей массе своей максимально тупой и поворотники путает или не в курсе вообще для чего они. Но спрашивать у ИИ съедобный гриб или нет это, наверное, можно приравнять к принятию решений через подкидывание монетки)
Ахахах) Так ведь не спрашивали. Взяли товар и скорее всего, на остальное не обращали внимание "Моя жена купила книгу в крупном интернет-магазине на мой день рождения." (Конечно подарок тоже странный на мой взгляд). И ведь не один такой. А дальше больше. Вообще грибы с детства нужно знать. Я если хоть какую-то толику сомнения получил, то исключаю его. А они как раз щас попёрли!!! А работа....в робота превращает.
Наверное огурцов не было, пришлось англичанину от нищеты идти в лес за грибами,что б приготовить еще и книгу купить на амазон. История из тех серий как там в Европе крыс едят , проституцией занимаются что б прокормить семью ... Человек с корзинкой: кто он в Великобритании? Впрочем, встретить человека с корзинкой можно и в английском лесу. Если вы познакомитесь с ним, то, скорее всего, он окажется одним из этих типажей: 1. Ученый-миколог, пополняющий коллекцию. В корзинке пузырьки и лакмус. 2. Эксцентричный хипстер, пробующий странное хобби. В корзинке иллюстрированный определитель съедобных грибов. 3. Человек, детство которого прошло в Украине, России, Беларуси или Латвии. В корзинке много места, чтобы накормить на всю семью! https://dzen.ru/a/YQkOJewfaBP8ZFS2 ПС. История тупым на радость
