Темная сторона искусственного интеллекта: 3 негативных последствия развития нейросетей
Из удивительной игрушки сегодня ИИ превращается в образ жизни. Это началось раньше, чем кажется. Созданная в 1966 году программа «Элиза» (ELIZA) уже умела имитировать психотерапевта, реагируя на ключевые слова.
Многие ее собеседники считали, что говорят с человеком, а не с программой
«Но в 2022 году произошла революция, — утверждает ИТ-эксперт Сергей Карелов. — Появилась не просто программа, умеющая говорить и играть в шахматы. Эта программа сама обучается, она интеллектуально сопоставима с человеком и может сдать экзамен на адвоката или врача». Мы получили сверхмощный и совершенно новый когнитивный гаджет для человеческого разума.
Этапы когнитивной эволюции
Наш разум формируется в социальной среде: мы учимся у себе подобных. Если ребенок-Маугли растет среди зверей, из него человека не выйдет. Мы подключаемся к социокогнитивной сети (термин Мерлина Дональда), в которой происходит множество информационных обменов с живущими ныне и жившими прежде людьми: Ломоносовым, Марксом, Эйнштейном, Горбачевым… «И до сих пор носителями таких сетей были только люди», — подчеркивает Сергей Карелов.
Письменность
Подключение к социокогнитивной сети происходит с помощью когнитивных гаджетов — так психолог, специалист по эволюции мышления Сесилия Хейес назвала механизмы мышления, которые она считает не биологически наследуемой способностью, а результатом накопления и передачи опыта.
«Важнейшим за все время существования человечества когнитивным гаджетом был язык, — рассказывает Сергей Карелов. — С его помощью стало возможно передавать знания в пространстве и времени. Столетия спустя появился другой когнитивный гаджет — письмо. Он позволил экстернализировать информацию, хранить ее не только в собственном мозге, а использовать внешние носители». Такими же гаджетами были счет, математика, нотная грамота.
Появление компьютеров
«До этого вся информация была аналоговая, а компьютеры позволили ее перевести в цифру, — подчеркивает Сергей Карелов, — в таком виде ее передавать и обрабатывать намного проще. Затем наступило время четвертого когнитивного перехода: появление интернета, в котором содержится вся информация всех наших социокогнитивных сетей. Сейчас происходит пятый переход, и он имеет революционный характер: появился новый носитель разума помимо людей, и обитает он там же, где мы: в интернете». Он уже не просто выдает информацию, а выполняет за нас интеллектуальные задачи.
Последствия
1. Проблемы с памятью
«Первое грандиозное изменение, которое произойдет благодаря новому носителю разума, это то, что он станет заменять старые когнитивные гаджеты на новые, — убежден Сергей Карелов. — А старые начнут отмирать. В молодости я легко держал в памяти сотню телефонных номеров. А сейчас, если кто помнит больше трех, это удивительно».
Эти процессы мы уже наблюдаем. Не все выпускники школ могут складывать в столбик, тем более умножать: есть калькулятор. Без навигатора не каждый рискнет ехать по незнакомой территории. Мы забыли, как когда-то пользовались компасом и спрашивали дорогу у местных.
2. Утрата агентности
«Пока что человек еще актор: он делает что-то в этом мире, — продолжает Сергей Карелов, — но принятие решений уже уходит к алгоритмам, причем на всех уровнях, будь то политика, наука или частная жизнь». Какую книгу читать, какое лекарство принимать, как разрешить конфликт с мамой…
Часто ли мы думаем о вариантах, которые не выдал поисковик? Алгоритмы поисковых систем поднимают вверх те сайты, куда зашло больше пользователей. Мы выбираем — но выбираем одно и то же.
3. Расслоение человечества
На тех, кто управляет алгоритмами, дата-центрами и кабелями передачи, и всех остальных: «Те, кто владеет интеллектуально-производственными средствами, будут богатеть и все больше отличаться от других, в том числе биологически. Уже идет моделирование протеинов нового поколения, и они окажутся в руках той же части человечества».
С помощью ИИ можно даже творить, уже многие используют рисунки и тексты, созданные нейросетью
«Она великий имитатор, может воспроизвести любой стиль. Единственное, чего не может, — нарисовать картину в стиле, который не похож ни на один предыдущий, — замечает Сергей Карелов. — А люди могут».
Похоже, это единственная способность, которая остается чисто человеческой. Хотя нет, есть еще одна: у ИИ (пока что) нет самосознания и собственных целей. Сейчас это интеллект, но не сознание. Но даже в таком виде он уже заметно изменил нас и еще больше изменит следующие поколения — тех, кто не знал мира без ИИ.
Чего не может Алиса
Рассказывает психодинамический и системный семейный терапевт Ирина Тебенева.
ИИ способен заменить психолога в том, что можно алгоритмизировать, например, провести тесты и выдать результат и даже поговорить со страдающей от одиночества бабушкой.
Но у человека есть тело, дыхание и бессознательное, и общения на этом уровне ничто не заменит. На сеансе я не только разговариваю с клиентом, а замечаю его микродвижения, выражение лица, глаз, то, что он сам не осознает, отзеркаливаю и возвращаю ему это, и за счет этого обмена меняется его личность.
Терапевт показывает, что способен выносить тяжелые переживания клиента и отвечать на них эмпатично. В результате стиль привязанности становится более безопасным. Такие изменения возможны только при встрече с другой личностью, у которой есть свои воспоминания детства, опыт преодоления травм.
Но возможно, глубинная работа станет дорогостоящей и доступной немногим, тем, кому интересно общение с собой. А остальные будут довольствоваться чат-ботами и решением краткосрочных проблем.
Сергей Карелов
Председатель Лиги независимых ИТ-экспертов ЛИНЭКС и создатель стартапа Witology, проекта в области коллективного интеллекта/разума