Технический менеджер по продукту GenAI Bug Bounty Марко Фигероа (Marco Figueroa) рассказал, как исследователю удалось обмануть ИИ-модель и выведать у неё ключи продуктов Windows под видом ответов в игре «угадайка».

Исследование было проведено в прошлом году, но его выводы актуальны и сейчас.
#ии #джейлбрейк #генеративныйии #исследование