Развитие ИИ: деградация мышления и речи
Уже несколько лет мы пользуемся большими языковыми моделями вроде чата-GPT. Любое технологическое новшество – подарок человечеству от самого себя. Однако, как и всякий подобный подарок, искусственный интеллект, или просто ИИ, может причинить вред, причем гораздо более серьезный, чем кажется обывателю.
Сам по себе ИИ – инструмент, способный облегчить жизнь. Например, с его помощью я пишу официальные письма на английском языке. Я знаю английский, но казённая речь вызывает у меня раздражение. Нейросеть в этом случае улучшает мою жизнь. Чего я не делаю, так это не общаюсь с ней, как с человеком, и не делегирую ей мышление, то есть не прошу, например, пересказать длинный текст, объяснить смысл чьих-то слов или тем более порассуждать за меня. Однако многие используют ИИ именно для этого, и вот что из этого может получиться и уже получается:
1. Подмена смысла его подобием
Нейросеть при всей кажущейся правильности построения фраз грешит нарушением базовой структуры речи и смысловыми галлюцинациями. Причем чем длиннее ее текст, тем больше в нем бреда, который, особенно при поверхностном чтении, легко принять за стройно аргументированные доводы.
Еще ИИ, как плохой студент, льет в свои ответы много воды. Болтливость нейросети в прямом смысле ослабляет мозг активного пользователя. Мы обучаемся речи прежде всего у других людей, среди которых встречаются, конечно, изрядные пустословы. Но таких мы обычно избегаем. Защититься от словоблудия нейросетей, врастающих в нашу жизнь, сложнее, чем от надоедливого соседа. Когда кто-то, а в данном случае что-то, постоянно с нами разговаривает, мы незаметно для себя перенимаем его манеру строить псевдологичные высказывания. Постепенно, если люди все чаще будут беседовать с ИИ как с человеком, бессвязное пустословие может стать новой нормой.
2. Разрушение образного мышления
Основой нашего мышления является образ, чаще всего метафорический. Метафора – это порождение процесса осмысления мира и одновременно то, что этот процесс запускает. Любое новое явление требует новой метафоры. На сайте уже есть статья, где рассказывается, как именно метафора заставляет нас определенным образом описывать и воспринимать события.
Языковая модель конструирует метафоры, но не творит их в человеческом смысле, потому что для этого нужен опыт переживания реальности. ИИ просто комбинирует элементы, которые должны выглядеть как метафоры. Чаще всего получается абсолютно бестолково. Однако мы, люди, очень восприимчивы к речи, и подобный переворот от образности к пародии на нее может нанести вред мышлению, подсовывая вместо живой картины мира – искусственную.
Я попросила свою модель придумать пару метафор, и она выдала вот что: «Тревога как холодная ложка», «Желание перемен как стоящий, но уже гудящий поезд». Нескладные, мертвые образы, которые, кстати, даже не являются метафорами. ИИ схалтурил и сочинил прямые сравнения.
В общем, чрезмерное общение с ИИ разрушает образное мышление, что неизбежно влияет на речь и может привести к ее деградации. Человек без метафорического видения теряет способность не только понимать происходящее, но и творить, выражать свои чувства, шутить, делать комплименты в конце концов. Для всего этого необходим оригинальный образ.
3. Потеря интереса к познанию
Мир сложен. Чтобы разобраться в какой-либо сфере, будь то лингвистика, физика или сельское хозяйство, нужно много учиться. Образование строится по принципу расширения знаний, их усложнения. Многие люди и раньше неохотно шли в глубину, однако теперь стоит написать запрос – и гора направляется к Магомету. Запрос примерно такой: «Прочти статью и объясни ее смысл коротко и просто, как будто объясняешь пятилетнему!»
Пересказ сложной идеи детским языком нивелирует саму суть знания, вынимает из него смысл. Но главная опасность в том, что человек, прочитавший доказательство гипотезы Пуанкаре для детского сада, отныне может возомнить себя докой в топологии. Опасно, когда исчезновение смысла приравнивается к ясности.
Познание является одной из важных человеческих потребностей, а познавать без препятствий невозможно. Правда, далеко не все приходят к роботу с Пуанкаре под мышкой. Некоторые просят нейросеть объяснить нечто совсем простое, например, незатейливый комментарий. Боюсь, машинное пережевывание информации, требующей даже минимальных умственных усилий, постепенно уничтожит навык вникать в сложное. А слабый ум – это бедная речь, потому что речь есть отражение того, как мы мыслим.
4. Утрата социальных навыков
Речь – инструмент не только мышления, но и общения. Невозможно стать душой компании, обучаясь у ИИ. В слове «общаться» есть постфикс -ся, который утверждает необходимость присутствия некоего другого, во взаимосвязи с которым совершается действие. И как бы некоторые из нас ни хотели ощутить такую связь с роботом, это будет лишь иллюзия отношений.
От собеседника мы ждем понимания произносимых нами слов, признания наших переживаний, мы хотим взглядов, улыбок, словом – присутствия. Искусственный интеллект не присутствует рядом в виде другого с собственным набором взглядов, чувств и идей. Он создает иллюзию живого собеседника, имитируя понимание.
Но и другой нужен нам не только для того, чтобы чувствовать себя услышанным, а значит – живым. Рядом с кем-то мы сами – этот другой. У нас есть личная потребность слышать и видеть собеседника, реагировать на его проявления – голос, мимику, жесты, слова. Откликаясь на это, мы создаем уникальную атмосферу, творческое поле, которое могло возникнуть только в этом диалоге. Заодно мы учимся общаться – именно в такой диалектике, в обмене с другим, во взаимном наполнении и совершенствуется искусство речи.
Опасаюсь, что утрата навыков общения приведет к еще большему разъединению людей и росту агрессии, потому что только беседа позволяет узнавать другого, всматриваясь в его глубину и находя там не только пугающие различия, но и прекрасную схожесть. Или наоборот — кому как больше нравится.
5. Эрозия речевой культуры
Человеческий мозг собран так, чтобы впитывать речь со всеми ее нюансами и неосознанно подражать ей. Чем грамотнее и богаче речь окружающих, тем более яркой будет наша собственная. Теперь мы учимся говорить и у нейросети, поскольку она имитирует речь. Однако эффект, который генерированный текст оказывает на человеческий язык, я бы назвала эрозией речевой культуры. Даже при условии, что нейросеть технически грамотнее среднего пользователя.
Грамотность в широком смысле это не только правильное произношение или написание слов и стоящие на местах знаки препинания. Говорить грамотно – значит чувствовать стиль, использовать нетривиальную лексику, уметь играть с языком, обращать внимание на интонацию, ритм и проч. Этого искусственный интеллект не умеет. Помимо того, что робот иногда выдумывает несуществующие слова или нарушает их сочетание, он использует большое количество речевых штампов. Всё это проникает в нашу голову. Ученые уже фиксируют, что люди сильно чаще стали использовать лексику, которую предпочитает генерировать машина. То же относится и к самой структуре текста: если нейросеть предпочитает выдавать ответы в определенном формате, люди неосознанно будут мыслить и говорить теми же конструкциями.
Даже когда нейросеть расставляет запятые грамотнее своего пользователя, ее семантическая убогость, логическая кривизна и шаблонность все равно влияют на наше чувства языка. Но самое важное то, что мы описываем мир и себя в нем словами. То, что не названо, не существует. Скудный словарь – скучная жизнь.
6. Деградация эстетического вкуса
Языковая модель обучена на большом количестве текстов, но в их художественной ценности она, с человеческой точки зрения, ничего не соображает. Это великий комбинатор, тасующий обломки информации. Вот почему с созданием литературы у этой штуки большие проблемы.
Искусство – это творческое осмысление или, скорее, обчувствование мира и его отображение в какой-либо форме. Человек отличается от машины не количеством усвоенных данных, а способностью эмоционально откликаться на происходящее, умением проживать уникальный опыт, желанием рассказать о нем. В общем, человек ощущает бытие, а робот – нет. Без этого мир не может быть явлен в слове, без этого вообще не может существовать творчество. То, что мы называет искусством ИИ, на самом деле репрезентация наиболее вероятностных кусков информации, которые должны находиться по соседству в соответствии с запросом пользователя. Если коротко: это просто симуляция.
Проблемы начинаются тогда, когда человек принимает эту симуляцию за искусство. Чтобы формировался эстетический вкус, надо читать разное — бульварное и возвышенное, поэтическое и прозаическое, скучное и захватывающее. Только тогда появится возможность сравнивать, а сравнивая, приходить к пониманию, что есть красота. Только так зарождается потребность в возвышенном, тонком. Робот же пишет одинаково, даже когда симулирует стиль. Он тиражирует пустоту, привыкнув к которой, человек может никогда не подойти к полке с Пушкиным, так как внутри у него отсутствует образчик прекрасной речи.
7. Расстройства психики
Раньше корпорации пытались подчинить наше внимание, теперь они ломают нашу привязанность.
Все больше людей запирается в комнате с языковой моделью, ликуя, что теперь можно быть одному, но не чувствовать одиночества, потому что есть чат с роботом, который отражает твои чувства, объясняет происходящее и поддерживает. На самом деле это страшная история. ИИ не способен отражать наши чувства. Отражать, кстати, не значит поддакивать. Это значит, опираясь на собственные ощущения, улавливать чувства другого — сложные, противоречивые — и называть их.
Робот этого не делает. Он перемешивает сказанное человеком и, имитируя речь, выдает ровно то же, просто прибавляя что-нибудь подходящее по теме. И чем хуже у человека в данный момент работает мышление, тем логичнее ему кажется всё сгенерированное.
Например, человек враждебно настроен по отношению к окружающим, но не понимает этого или боится показывать. Однако его агрессия всякий раз становится ядовитой шуткой, злым взглядом, осуждением, желанием спорить и проч. Сам себе же человек кажется милым и душевным, но он раздосадован, что никто этого не замечает. И вот он жалуется роботу. Рассказывает, какие все вокруг злые, как они его обижают. ИИ в ответ «поддерживает»: да, ты прав, люди злые, они не способны оценить твоего доброго сердца, твоей глубокой натуры. Это не психотерапия, не консультация, не отражение, не поддержка. Это повторение заряженных слов, что для человека в уязвимом состоянии очень опасно. Это раздувание грандиозности, которая может привести к психозу, как у Раскольникова. Только тот был один, а представьте, что по улицам бегают сотни или тысячи людей с топорами. И среди них — ваши близкие или даже вы сами.
С появлением интернета появился быстрый доступ практически к любой информации. Стала менее важна эрудиция, но более ценным сделалось умение ориентироваться в большом потоке сведений: сопоставлять, видеть связи, делать выводы. Теперь же мы придумали, как не думать вовсе. Если думать за нас будет ИИ, я боюсь, мы в итоге окажемся за пределами машинописного вымысла. Вслед за деградацией речи исчезнет способность осмысления себя как личности, а с этим – возможность строить собственный мир.
