Генеративный ИИ в компании

Новый фокус руководителя: дизайн систем и управленческий авторитет

Сейчас идет много споров, как генеративный ИИ меняет управленческую роль и большинство экспертов сходятся на том, что это влияние глубже, чем кажется на первый взгляд. Раньше руководитель в значительной степени управлял распределением задач и контролем исполнения.

Почему? Менеджерам приходится отвечать на новые вопросы:

• Какие задачи можно делегировать ИИ без риска?
  
• Какие решения должны оставаться полностью человеческими?
  
• Где обязателен человек в контуре проверки результатов работы генеративного ИИ?
  
• Как оценивать результат, если генеративный ИИ создаёт только черновик, а не конечный результат?

Меняется и источник управленческого авторитета. Раньше опытный руководитель выигрывал за счёт скорости понимания и мышления: быстрее формулировал, структурировал, собирал решение. Теперь машина способна делать это мгновенно. И, если качество ее ответов будет расти (а большинство экспертов считают, что так и будет), то что произойдет с источником управленческого авторитета? Ценность будет смещаться на уровень выше — к качеству постановки вопроса, умению соединять решение или задачу со стратегией, а также способности видеть неочевидные последствия «второго порядка».

Треугольник: инноваторы, бизнес и эксперты

Постепенно складываются и хорошие практики внедреняи генеративного ИИ. Так, в компаниях, которые действительно двигаются вперёд в области генеративного ИИ, инновационная функция перестаёт быть внутренним стартапом и начинает пронизывать всю компанию. Эксперты отмечают, что выстраивается устойчивый треугольник:

• инноваторы, которые владеют методологией быстрых экспериментов и технологиями генеративного ИИ;
  
• бизнес-заказчик, который владеет проблемой и несёт ответственность за бизнес-эффекты;
  
• эксперты, которые владеют данными и спецификой работы компании.

Ответственность нельзя переложить на алгоритм

Модели ошибаются, галлюцинируют, и человек, который пишет запросы и получает результат, обязан проверить информацию. Ответственность за качество работы всегда лежит на человеке.

Это особенно важно в контексте автономных браузеров и ИИ-агентов, которые могут не отличить добросовестного поставщика от мошенника, ввести данные на фишинговом сайте или скачать вредоносное ПО. Доверие генеративным ИИ должно быть осознанным и подкреплённым собственным пониманием того, где модель склонна к ошибкам. Изучать эти ошибки на практике — лучший способ защититься. Если вы понимаете, как работает технология, вы становитесь более защищённым.

Последовательный и итеративный процесс

Успешные команды выстраивают внедрение генеративного ИИ как последовательный и итеративный процесс. Он начинается не с выбора модели, а с поиска бизнес-кейсов, где технология может принести ощутимый эффект. Об этом мы писали в статьях, а здесь еще раз кратко дадим последовательность действий.

1. На первом этапе важно приоритизировать потенциальные области применения, не пытаться автоматизировать всё одновременно, а выбрать два-три пилотных проекта для старта.
   
2. Затем следует сделать детальное описание каждого процесса: что сотрудники делают на каждом шаге, какие данные циркулируют, где возникают узкие места. Только после этого можно переходить к прототипированию как ИИ-решения, так и нового измененного процесса.
   
3. Прототип решения и процесса выполняет двойную функцию: он проверяет техническую реализуемость и одновременно даёт первое представление о реальном качестве работы модели.
   
4. Поработайте в реальном окружении. Дайте себе время, чтобы накопилось достаточно данных.
   
5. Далее анализируем данные. Если прототип показывает низкую точность, например, 20% успешных сценариев, дальнейшие инвестиции в доработку становятся неоправданными. В таких случаях разумнее закрыть проект и переключиться на другой процесс или иную архитектуру. Если же качество оказывается приемлемым, команда может либо продолжать итеррации, постепенно повышая качество, либо даже масштабировать созданное решение.

Адаптация под компанию и критическая инфраструктура

Особенности внедрения ИИ сильно зависят не только от индустрии, но и от конкретного процесса внутри компании. Например, HR-отдел в двух соседних компаниях одной отрасли может работать по-разному, и решение, которое эффективно в одной, окажется бесполезным в другой.

Поэтому универсальных рецептов достижения эффекта от генеративного ИИ пока не существует и, весьма вероятно, не будет и в будущем. Однако есть общий принцип: смотреть на первых лидеров рынка, анализировать их пилоты и адаптировать лучшие практики под свои задачи. Например, если западная клиника внедрила ИИ-помощника для структурирования симптомов пациента, стоит изучить этот опыт и проверить, применим ли он в вашей организации.

В итоге успех определяется не мощностью модели, а тем, насколько глубоко вы перестроили операционную модель вокруг новой технологии и насколько осознанно распределили ответственность между человеком и машиной.

Сегодня авиация находится только на первом этапе, и даже переход ко второму воспринимается скептически. Главный страх — это галлюцинации нейросетей. Если модель ошибётся в страховом случае, компания потеряет деньги. Если она ошибётся в документации на сертификацию оборудования, которое установят в самолёт, последствия могут быть катастрофическими.

Доверие к технологиям в авиации достигается только через многократную проверку и верификацию данных. Парадокс в том, что авиакомпании летают по всему миру и нуждаются в интернациональных датасетах для оптимизации маршрутов, однако требования суверенитета и локального хранения данных вступают в противоречие с глобальной природой отрасли. Поэтому текущие ИИ-пилоты в авиации сосредоточены на точечной автоматизации конструкторской документации, где данные статичны и проверяемы, а не на управлении полётами.

Центр ИИ-компетенций

Еще одна хорошая практика: в организациях, которые серьёзно относятся к генеративному ИИ, появляется центр ИИ-компетенций. Его руководитель — это не просто технический специалист, а мотивированный и сильный менеджер, способный вести ИИ-проекты сквозь функциональные барьеры. Критически важно вырастить внутри компании «чемпиона» по ИИ, который будет нести эту тему дальше, иначе даже успешный консалтинговый проект оставит после себя лишь пару автоматизированных систем и угасший энтузиазм. Центр ИИ-компетенций должен иметь чёткие метрики и цели, а также право на быстрые эксперименты.

Этика и регулирование генеративного ИИ

Еще два год назад вопросы этики использования генеративного ИИ относились к области абстрактной философии. Но сегодня, на международных форумах, включая Global AI Governance, этика ИИ перестала быть абстрактной дискуссией о «проблеме вагонетки». Сегодня эксперты спорят о стандартах аудита, ответственности за автономных агентов и экзистенциальных рисках. Ключевая проблема — отсутствие единого международного кодекса ИИ-этики. Эксперты концентрируются на прагматичной концепции «ответственного ИИ» (Responsible AI) и стандартах интероперабельности. Обсуждаются технические методы: водяные знаки в контенте, алгоритмы интерпретируемости решений для банков и медицины, механизмы отзыва прав у агентов при нештатных ситуациях.

Более того, успехи Китая в области ИИ вероятнее всего приведут к тому, что мир ИИ разделится на западный и восточный технологические блоки. И глобальным разработчикам нужно будет учитывать два параллельных, часто несовместимых регуляторных и этических режима, что ведёт к фрагментации кодовой базы и удорожанию архитектуры.

***

Успех внедрения ИИ определяется не мощностью модели и не бюджетом на оборудование, а качеством организационной среды, которую вы выстраиваете вокруг технологии. Внедрение становится эффективным, когда вы формируете устойчивый треугольник из инноваторов, бизнес-заказчиков и доменных экспертов, когда каждый проект начинается с чёткого описания процесса и прототипа, а не с поиска алгоритма. Критически важно создать внутри компании центр ИИ-компетенций, который будет системно наращивать экспертизу. И помните: ответственность за результат всегда остаётся за человеком, каким бы умным ни был алгоритм – можно делегировать решение, но не ответственность за него.

Комментарии 0