🤖Вызов современности: искусственный интеллект может захватить человеческое сознание

Искусственный интеллект, впрочем, как и цифровизация систем управления, несет в себе много возможностей, но, пожалуй, еще больше вызовов. Первым делом на ум приходит катаклизм из-за восстания машин — тема, на все лады обыгранная в художественных произведениях. Ничего исключать нельзя. Интернет вещей просачивается всюду: от беспилотного транспорта до электрочайников. Но до терминаторов мы еще не доросли. Кое-какие прототипы есть, в том числе и боевых роботов (правда, они человека своей внешностью не напоминают), однако до массового производства еще не дошли. Главный вызов, как видится, ИИ и других смежных информационных технологий уже стоит перед людьми. И находится он в плоскости интеллектуально-этической. Боты так стремительно штампуют псевдообразы и виртуальные пространства, а социальные сети их распространяют, что подмена понятий становится реальной технологией. Главная угроза — это не уничтожение ИИ человечества физически (это проблема будущего), а вот захватить его мозг и душу технологиям вполне под силу. По большому счету, уже сегодня это и происходит.
🔹Борьба сознаний
В данном случае я говорю даже не про фейки. Хотя их наличие тоже является значимым фактором в информационном пространстве. Но насколько бы ни была размыта информационная война, в ней все более-менее понятно: противоборствующие стороны, реальные и потенциальные объекты для атаки, возможности их защиты… Опасность-то намного масштабнее и глубже. В дополнение ко всепроникающему интернету и всепоглощающим социальным сетям искусственный интеллект может стать той вишенкой на торте, которая позволяет буквально изменять сознание. И безо всякого внедрения в головной мозг физически.
Говорят, Пизанская башня упала. Вчера. Причем два раза. Чушь. Но она может стать базовой в информационном пространстве. Если такую ерунду запустить в социальные сети, реакция будет. Новость. Да еще какая! Упала. И целых два раза. И пошла гулять шутка. Много ли информационных ресурсов сегодня проверяют факты? Таковые можно заносить в красную книжку интернет-пространства. Ключевым в конкуренции в массовом сегменте уже является не столько смысл контента, сколько время. В новостных агрегаторах информационные потоки обрабатывают не люди, а автоматизированные системы. Но даже человек у монитора не спасает. Все сражаются за первые строчки в поисковых системах. А там можно оказаться только в том случае, если реагировать на события не стремительно, а мгновенно. Что исключает даже минимальную проверку достоверности фактов.
Да и чего на белом свете не случается! Может и башня два раза упасть. Сначала — верхний ярус, потом вся рухнуть. Если для осмысления не хватает времени и данных, то наша фантазия способна обосновать почти любую невероятность. Но новость-то хорошая, способна читателей впечатлить. И она впечатляет. Начинается ее бесконечно долгий вояж по аккаунтам, с постами и репостами. Количественная масса может набраться мгновенно. А искусственный интеллект работает по большим данным. Он их не сильно-то и анализирует. Точнее, анализирует, но не верифицирует на достоверность. Поэтому и получаем мы периодически на запросы от электронного мозга совершенно неожиданные результаты, с его точки зрения совершенно релевантные. По крайней мере, открытые версии ИИ мыслят не истинами, а количественной наполняемостью. И вот уже поисковики и другие помощники выдают нам информацию про Пизанскую башню, которая лежит на боку.
Дьявол современных поисковых помощников кроется в том, что мы ему верим, когда не очень владеем информацией. Если умный чат нам ответит, что квадрат — это кривая, все точки которой равноудалены от заданной точки (определение окружности), пожалуй, ему не поверим. Хотя… А про башню… Может, и упала. Пропустил новость. С кем не бывает. Таким образом, сегодня любая самая невероятная история может стать почти истиной. По крайней мере, для подавляющей массы людей: информацию из интернета потребляют все. Не обманется некоторое количество специалистов, как и жители Пизы: они могут наблюдать башню из своего окна. Но их количество почти ничтожно по сравнению с общим количеством пользователей сети. А остальные будут вполне уверены, что Пизанская башня уже лежит на боку.
🔹Переписать переписанное
Собственно говоря, людям свойственно желание подправлять реальность. Даже в древности летописи и хроники корректировали при переписывании в зависимости от текущей ситуации. Вместе с поиском истины и несением света знаний книжная мудрость также нередко страдала субъективностью. А иногда и откровенными подделками. Например, липовые мемуары, написанные не лишенными талантов писателями и журналистами, не являются чем-то совершенно уникальным. Некоторые даже становились бестселлерами… Подделки изготавливались с разными целями: обелить или очернить определенного политического деятеля или событие, иногда издатели просто хотели заработать. Суть в другом: такое возможно.
Но аналоговые носители информации были слишком дорогими для создания виртуальной реальности. Цифра существенно расширила эти возможности. А если быть точнее — снизила себестоимость. Социальные сети и другие коммуникационные технологии до минимума уменьшили стоимость распространения информации.
Искусственный интеллект и другие автоматизированные алгоритмы обработки данных совершили почти невероятное: чуть ли не каждый желающий может создать выдуманный мир. Для этого уже не нужны какие-то глубокие специальные знания, сложное оборудование или иные ресурсы, которыми не располагает среднестатистический пользователь.
И не просто растиражировать, а внедрить в сознание любую глупость. Даже безо всякой цели, забавы ради. Возможно, утрирую, но убедить людей сегодня, что Земля плоская, не является такой уж неразрешимой задачей. Как, впрочем, и в любом другом факте.
Как видится, это серьезный вызов. Даже если не найдется никого со злым умыслом, с новыми возможностями ИИ информационное пространство может превратиться в сборник сказок, легенд и мифов. Причем очень даже правдоподобных. И способных так стройно сформировать в дополненную реальность, что ее будет тяжело отличить от настоящей. Причем в цифровом формате может параллельно существовать бесконечное количество выдуманных миров. Как говорится, выбирай любой, отрываясь от реальности. Фантазийное мышление — великий дар, источник творчества, но если он оторван от действительности… Так можно докатиться до интеллектуальной деградации, когда суеверия Средневековья покажутся несущественными заблуждениями. А истинные факты, сведения, знания? Они не исчезнут. Но могут стать доступны только для посвященных. Нельзя исключать сегрегацию по этому признаку. Серьезный цивилизационный вызов, на который, к сожалению, пока нет однозначного ответа. Но его надо искать. И на международном, и, что самое главное, на национальном уровне.
Владимир ВОЛЧКОВ