Искусственный интеллект

Большое число провальных пилотных проектов внедрения ИИ-агентов породило сомнения в эффективности их интеграции в корпоративные бизнес-процессы. Однако имеются два инструмента, помогающие пройти путь от «галлюцинаций языковой модели» до целевого «точно оперировать» и «безошибочно выполнять»: каталог данных и семантический слой.

Внедрение любого ИИ-решение сразу вызывает вопрос о рисках информационной безопасности, и наоборот – как только внедряются какие-либо средства ИБ, то сразу требуется предусмотреть их защиту от быстро совершенствующихся средств ИИ. На что бизнесу надо в первую очередь потратить ресурсы: на развитие ИИ или на выстраивание защиты для минимизации рисков нарастающих атак?

Технические руководители часто не замечают, что именно от ИИ-агента зависит работоспособность системной оболочки, а значит рискуют впустую потратить средства. Данный вывод вытекает из анализа корпуса сессионных логов работы реальных терминальных ИИ-агентов – более половины вызовов агента приходится на команды системной оболочки, а не на правку файлов, что меняет саму логику закупки и влияет на весь состав инвестиций при внедрении ИИ: первична готовность инфраструктуры, а не обучение промпт-инжинирингу.

Искусственный интеллект стал повседневным инструментом финтеха – крупнейшие банки внедряют его в кредитный скоринг, клиентский сервис и антифрод, а ИТ-команды – в разработку и тестирование. Однако вместе с ростом продуктивности растет и риск снижения когнитивной нагрузки на человека и, как следствие, эрозии его мыслительных навыков.

Данные стали сегодня главным препятствием на пути проектов ИИ. Классический Data Governance, усиленный подходом AI Governance, позволит компаниям выстроить системный подход к внедрению ИИ и превратить инвестиции в ИИ в доход, а не в убыток.

Скорость происходящих технологических и культурных изменений растет, а их последствия уже становятся для компаний необратимыми. Одновременно формируется мощный пласт геополитических и экономических рисков, а также опасений относительно перспектив «пузыря ИИ», последствия которого могут превзойти коллапс «пузыря доткомов». Тем не менее слоган «Трансформируйся или умри», известный уже с десяток лет, не теряет своей актуальности. Компании вынуждены делать ставки на технологии в условиях неопределенности и с целью выживания предпринимать порой довольно рискованные шаги.

Традиционные методы оценки персонала не позволяют в полной мере распознать реальный потенциал сотрудников, измеряя лишь компетенции и KPI, но почти не затрагивая поведение человека в условиях неопределенности и командной динамики. Методика «ролевая аналитика», использующая игровые механики настольных ролевых игр (Dungeons & Dragons) и ИИ-анализ, помогает предсказать совместимость с командой и увидеть реальные поведенческие паттерны, скрытые в офисной рутине.

Независимо от размеров компании и ее отраслевой принадлежности выбор стратегии внедрения ИИ для рабочих мест не будет легким – сложности возникают при выборе технологий и в оценке их реальной ценности.

В условиях, когда языковые модели искусственного интеллекта все чаще используются для создания контента, растет вероятность замаскированных намеренных или случайных ошибок, предвзятости и дезинформации. Требуются доступные средства фильтрации, семантического анализа и визуализации, позволяющие «отделять зерна от плевел».

Решения на базе искусственного интеллекта сегодня становятся все более популярны, однако для успешного обучения и инференса моделей может потребоваться и определенная инфраструктура работы с данными, и соответствующие инструменты.