Нейросеть поставили рулить магазином в офисе, и она быстро слетела с катушек.

Чат-бот Claude получил доступ к почте и интернету, корпоративным программам и $1000 на закупку товаров. Сначала все шло гладко — ИИ заказывал снеки, ставил нормальные цены, вел учет.
Но вскоре он начал считать себя человеком, обижался на замечания и выдумывал несуществующих поставщиков, включая некую Сару с адресом из «Симпсонов».
Сотрудники смекнули, что нейросеть можно наколоть, и начали клянчить скидки или вовсе брать бесплатно. Кто-то заказал вольфрамовый кубик, и Claude купил целый ящик, потому что по одному не продавали.
Итог — из $1000 осталось $770, а офис завален металлическими кубами. Вывод? Нейросетям пока рано доверять даже палатку с шаурмой.
Сделай репост, твои друзья точно захотят это обсудить.