Как ИИ «сломал» сам себя и какие у этого будут последствия

Мнением поделился экономист, бывший старший вице-президент банка «Открытие» Константин Церазов.

Сейчас искусственный интеллект — одно из самых быстроразвивающихся направлений, в том числе в финансовой сфере. Многие компании вкладываются в его развитие, рассчитывая, что эти инвестиции окупятся в будущем. Но пока разработка и обучение нейросетей требуют больших затрат, что вызывает вопросы у инвесторов.

В этой статье для редакции «Бизнес» Skillbox Media я поделюсь своим мнением о том:

• почему ИИ до сих пор несовершенен;
• к чему могут привести нейросети;
• как можно улучшить ИИ;
• какие навыки будут полезны для работы с ИИ в будущем.

Почему ИИ до сих пор несовершенен

Во-первых, нейросети до сих пор галлюцинируют, и это замечают многие — например, исследователи в Duke University. Исправить такое невозможно, так как это особенность искусственного интеллекта. Эксперты по работе с ИИ — бывший технический директор компании SAP Вишал Сикка и его сын Варин Сикка — отмечают, что современные ИИ-системы ошибаются и требуют контроля со стороны человека.

Всё потому, что условный ChatGPT стремится дать пользователю ответ даже в тех случаях, когда у модели недостаточно информации. Именно поэтому ответы могут содержать ошибки, искажённые факты или даже выдумки. Из-за этого ответы нейросетей приходится проверять человеку. Значит, нужно всё больше персонала, чтобы исправлять неточности ИИ. Многие в таком пути развития видят прогресс, я — нет.

Проблема ещё в том, что у нейросетей нет никакой прозрачности — никто не знает, как получился тот или иной ответ. Нейросеть просто подбирает наиболее уместный, как она считает, набор слов для ответа. Поэтому ошибки могут передаваться дальше. Особенно сейчас, когда нейросети всё чаще используют для обучения других моделей.

Бесконтрольное развитие ИИ чревато не только ошибками, но и неизвестностью. Через несколько лет нейросети могут стать умнее даже самых выдающихся людей, пишет в своём эссе Дарио Амодеи, генеральный директор и соучредитель компании Anthropic, которая разработала семейство языковых моделей Claude. Какими окажутся последствия такого развития, пока непонятно.

Ещё одна проблема — риски, связанные с безопасностью. В отчёте Cisco говорится, что злоумышленники могут перехватывать данные во время их передачи между нейросетью и другими системами. Согласно одному исследованию, упомянутому в отчёте, 83% организаций планируют внедрить агентный ИИ в свои бизнес-процессы, однако только 29% считают, что готовы безопасно использовать такие системы. Это говорит о том, что риск утечки конфиденциальной информации остаётся высоким.

К чему нас могут привести нейросети

Если всё будет развиваться так же, как сейчас, то ИИ может зайти в технологический тупик. Нейросети продолжат ошибаться, а значит, их по-прежнему нельзя будет использовать в сферах, где цена ошибки слишком высока, — в тех же финансах.

Сейчас многие восхищаются ИИ-агентами. Предполагается, что они смогут самостоятельно торговать на бирже, писать код, управлять логистикой и выполнять другие сложные задачи. Но, на мой взгляд, они наследуют галлюцинации базовых моделей, потому что опираются на централизованные данные, которые могут устаревать или искажаться.

Если встроить ИИ в привычный инструмент, например калькулятор, вероятно, он даже на простых вычислениях будет ошибаться. Конечно, разработчики постоянно обучают модели, чтобы уменьшить количество неточных ответов. Но, как мне кажется, полностью избавиться от них невозможно.

Как можно улучшить ИИ

На мой взгляд, ИИ нужно перевести на более устойчивые системы на базе технологии распределённого реестра. Один из самых известных её вариантов — блокчейн.

Блокчейн работает так: информация хранится не на одном компьютере, а сразу на множестве устройств, объединённых в сеть. Чтобы изменить данные, нужно получить согласие всех участников сети. Без этого изменения не вступят в силу. В компании «Открытие» мы использовали такой подход при работе с чувствительной информацией.

Современные нейросети устроены иначе. Они не используют технологию распределённого реестра, информация хранится централизованно. Из-за этого изменения могут происходить без согласования со всеми заинтересованными сторонами. Для некоторых сфер такой подход недопустим.

Я считаю, что обновлённый ИИ, построенный на распределённом реестре, может сыграть важную роль в развитии — в частности, российского рынка цифровых финансовых активов. В этой сфере такие решения стоит тестировать в первую очередь. При этом подобная нейросеть должна использоваться только для части задач, а не заменять человека полностью.

Какие навыки будут полезны для работы с ИИ в будущем

Для меня очевидно: через десять лет ИИ останется только для рутинных операций, в которых нужны ноль эмоций и эмпатии. И то, там будут только нейросети, которые идут в связке с распределённым реестром. Те компании, которые отдадут ИИ чуть ли не 99% процессов, в итоге придут к финансовому краху. Этот коллапс будет проявляться по-разному, но прежде всего — через снижение капитализации.

Если такой сценарий реализуется, возрастёт спрос на антикризисных управляющих, которые смогут перестраивать работу компаний. Поэтому сейчас нужно учиться следующему:

1. Разработке и созданию новых модификаций ТРР.
2. Развитию нейросетей с нуля на базе ТРР, в частности, блокчейна.
3. Разработке новых систем — не только ИИ на распределённом реестре, а реального интеллекта.

Также необходимо уметь применять разные варианты воплощения ТРР. Один корпоративный блокчейн для всего — это путь в никуда. Когда мы в «Фабрике инноваций» в рамках экосистемы «Открытие» изучали разные способы воплощения ТРР, то выстраивали микс из разных вариантов, чтобы достигать целей, которые нужны акционерам.

Как мне кажется, модификации ТРР идут дальше, за рамки известных широкой общественности альтернатив. Некоторые из них обладают намного более сильными характеристиками, чем блокчейн, и при этом оптимально устроены, чтобы развивать и внедрять с помощью такого реестра корпоративные нейросети.