Новости Днепра

В условиях современного жесткого рынка труда и гибридной рабочей среды организации все чаще обращаются к искусственному интеллекту для поддержки различных функций в своем бизнесе, от предоставления более персонализированного опыта до улучшения операций и производительности, а также помощи организациям в принятии более эффективных и быстрых решений. Вот почему, по данным исследования IDC, к 2024 году мировой рынок программного обеспечения, оборудования и услуг ИИ превысит 500 миллиардов долларов.

Тем не менее, многие предприятия не готовы к тому, чтобы их системы искусственного интеллекта работали независимо и полностью без вмешательства человека, да и не должны этого делать.

Во многих случаях предприятия просто не имеют достаточного опыта работы с системами, которые они используют, поскольку технологии искусственного интеллекта чрезвычайно сложны. В других случаях рудиментарный ИИ встроен в корпоративное программное обеспечение. Они могут быть довольно статичными и исключать контроль над параметрами данных, которые нужны большинству организаций. Но даже самые опытные предполагают человеческий контроль, чтобы избежать рисков и получить максимальные преимущества от ИИ.

Система сдержек и противовесов ИИ

Существуют четкие этические, нормативные и репутационные причины для того, чтобы ИИ не был полностью самостоятельным. Со временем могут быть введены неточные данные, что в некоторых случаях приводит к неверным решениям или даже к ужассающим последствиям. Предубеждения также могут проникнуть в систему независимо от того, были ли они введены во время обучения модели ИИ, в результате изменений в среде обучения или из-за смещения тенденций, когда система ИИ реагирует на недавние действия больше, чем на предыдущие. Более того, ИИ часто не способен понять тонкости морального решения.

Например, сфера здравоохранения. Отрасль прекрасно иллюстрирует, как ИИ и люди могут работать вместе, чтобы улучшить результаты или причинить большой вред, если люди не полностью вовлечены в процесс принятия решений. Так, при диагностике или рекомендации плана ухода за пациентом ИИ идеально подходит для предоставления рекомендации врачу, который затем оценивает, является ли эта рекомендация обоснованной, а после дает совет пациенту.

Наличие у людей возможности постоянно отслеживать реакцию и точность ИИ позволяет избежать недостатков, которые могут нанести вред или вовсе привести к катастрофе. В то же время контрол за ИИ предоставляет средства для непрерывного обучения моделей, чтобы они постоянно развивались и становились лучше. Вот почему IDC ожидает, что в 2022 году более 70% компаний G2000 будут иметь формальные программы для мониторинга своей цифровой надежности.

Модели сотрудничества человека и ИИ

Обучение с подкреплением «человек в цикле» (HitL) и диалоговый ИИ — два примера того, как вмешательство человека помогает системам ИИ принимать более эффективные решения.

HitL позволяет системам ИИ использовать машинное обучение для обучения, наблюдая за людьми, занимающимися реальной работой и примерами использования. Модели HitL похожи на традиционные модели ИИ, за исключением того, что они постоянно саморазвиваются и совершенствуются на основе отзывов людей, а в некоторых случаях дополняют взаимодействие людей. Это обеспечивает контролируемую среду, которая ограничивает неотъемлемый риск предубеждений, таких как эффект превосходящей стороны, которые могут иметь разрушительные последствия, особенно в важных процессах принятия решений.

Ценность модели HitL применима в отраслях, производящих важные детали для транспортных средств или самолетов, которым требуется оборудование, соответствующее стандартам. В подобных ситуациях машинное обучение увеличивает скорость и точность проверок, а контроль со стороны человека дает дополнительные гарантии того, что детали безопасны для пассажиров.

С другой стороны, разговорный ИИ обеспечивает почти человеческое общение. Он может разгрузить сотрудников при решении более простых проблем, зная, когда нужно делегировать проблему людям для решения более сложных проблем. Контакт-центры с чат-ботами являются главным примером этого взаимодействия.

Когда клиент обращается в контакт-центр, у него есть возможность позвонить, отправить текстовое сообщение или пообщаться виртуально с представителем. Виртуальный агент слушает и понимает потребности клиента и участвует в разговоре. Он использует машинное обучение и ИИ, чтобы решить, что нужно сделать, основываясь на том, что он узнал из предыдущего опыта. Большинство систем искусственного интеллекта в контакт-центрах генерируют речь, чтобы помочь общаться с клиентом и имитировать ощущения человека, печатающего или говорящего.

В большинстве ситуаций виртуального агента достаточно для обслуживания клиентов и решения их проблем. Тем не менее, бывают случаи, когда ИИ может перестать печатать или говорить, а затем плавно переключить клиента на живого представителя, чтобы принять вызов или пообщаться в чате. Даже в этих примерах система ИИ может перейти от автоматизации к дополнению, продолжая прослушивать разговор и давать рекомендации живому представителю, чтобы помочь ему в принятии решений.

Выходя за рамки разговорного ИИ и объединясь с когнитивным, такие системы могут научиться понимать эмоциональное состояние другой стороны, обрабатывать сложные диалоги, обеспечивать перевод в реальном времени и даже подстраиваться в зависимости от поведения другого человека, выводя помощь человека на новый уровень.

Сочетание автоматизации и человеческого взаимодействия расширяет возможности ИИ

ИИ лучше всего применяется, когда он контролируется людьми и дополняет их. Когда это происходит, люди продвигаются вверх по навыкам, берясь за более сложные задачи, в то время как ИИ постоянно учится, совершенствуется и находится под контролем, избегая потенциально вредных последствий. Использование таких моделей, как HitL, разговорный ИИ и когнитивный ИИ в сотрудничестве с реальными людьми, обладающими опытом, изобретательностью, сочувствием и моральным суждением, в конечном итоге приводит к расширенному интеллекту и более положительным результатам.

По материалам: Artificialintelligence-news