Загайнов М.А., Костенков Е.А., Кузнецов Д.С.
БГТУ «Военмех» имени Д.Ф. Устинова, г. Санкт- Петербург
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ЕГО ПРОБЛЕМЫ
Аннотация
Главная цель этой статьи – дать читателю поверхностное представление об искусственном интеллекте и проблемах, связанных с ним. Эта статья затрагивает такие актуальные проблемы, как тенденциозность и проблему доверия. Также она затрагивает принципы проектирования, разработки и использования ИИ.
Abstract
The main purpose of this article is to give the reader a superficial understanding of artificial intelligence and the problems associated with it. This article addresses such pressing issues as bias and trust. It also involves the principles of design, development and use of AI.
Ключевые слова: искусственный интеллект, принципы проектирования ИИ, проблема доверия ИИ, тенденциозность ИИ, перспективы ИИ.
Keywords: artificial intelligence, principles of design AI, the problem of trust of AI, the problem of bias of AI, the prospects for AI.
Искусственный интеллект (ИИ) — это научная дисциплина, направленная на создание машин, которые могут выполнять множество задач, требующих участия человеческого интеллекта. Развитие ИИ началось более 60 лет назад, и включает в себя два основных направления исследований. Первое направление основано на правилах, логике и символах. ИИ всегда находит правильное решение для данной проблемы, если эта проблема была правильно определена. Однако он может быть использован только тогда, когда можно предусмотреть все возможные сценарии для рассматриваемой проблемы.
Другая область исследований основана на примерах, анализе данных и корреляции. ИИ может применяться в тех случаях, когда имеется неполное или нечеткое представление о решаемой проблеме. Однако этот тип ИИ требует большого количества данных, всегда есть небольшая погрешность. Эти два направления исследований все чаще объединяются, чтобы максимизировать преимущества обоих и смягчить их недостатки.
В последние годы было построено много успешных приложений ИИ, в основном из-за объединения улучшенных алгоритмов, огромной вычислительной мощности и огромных объемов данных. Это дает системам ИИ возможности восприятия на уровне человека, такие как преобразование речи в текст, понимание текста, интерпретация изображений и другие, для которых подходят методы машинного обучения. Эти возможности позволяют развертывать системы ИИ в реальных условиях, которые обычно имеют высокую степень неопределенности. Тем не менее, современные ориентированные на потребителя приложения ИИ, в которых пользователям предоставляются услуги — от навигационных систем до голосовых «умных» домов — охватывают только малую часть огромных возможностей.
Основная цель ИИ — увеличить возможности человека и позволить ему принимать более эффективные и обоснованные решения. На этом этапе ИИ и люди обладают взаимодополняющими возможностями. Типичными приложениями ИИ являются системы поддержки принятия решений для врачей, педагогов, операторов финансовых услуг и множества других специалистов, которым необходимо принимать сложные решения на основе большого количества данных [1].
Проблема доверия.
Сейчас мы понимаем, что ИИ в скором времени проникнет во все уголки нашей жизни. Это, безусловно, принесет много пользы с точки зрения научного прогресса, благополучия человека, экономической выгоды и возможности поиска решений основных социальных и экологических проблем. Однако такая мощная технология также вызывает некоторые опасения, такие как ее способность принимать важные решения таким образом, чтобы люди воспринимали их как правильные, согласовывать с человеческими ценностями, которые имеют отношение к решаемым проблемам, и способность аргументировать правильность принятия решений. Поскольку многие успешные методы ИИ опираются на огромные объемы данных, важно знать, как данные обрабатываются системами ИИ.
Без ответов на эти вопросы многие не будут доверять ИИ, а потому не смогут ни полностью принять его, ни использовать его положительные возможности. Согласно новому исследованию IBM Institute for Business Value 82% всех предприятий и 93% высокопроизводительных предприятий в настоящее время рассматривают внедрение или уже внедряют ИИ, так как благодаря этому они могут увеличить доходы, улучшить обслуживание клиентов и снизить затраты. Однако, хотя они и понимают огромные преимущества этой технологии, 60% этих компаний боятся проблем ответственности, а 63% говорят, что им не хватает навыков для использования потенциала ИИ, согласно тому же исследованию.
Доверие к производителям ИИ.
Доверие к ИИ должно быть дополнено доверием к тем, кто его создает. Тем не менее, добиться такого доверия можно только в том случае, если компании будут прозрачны в отношении своих политик использования данных. Если данные необходимы для того, чтобы помочь ИИ принимать более правильные решения, важно, чтобы человек, предоставляющий данные, знал о том, как обрабатываются его данные, где они хранятся и как они используются.
Хорошей новостью является то, что отрасль ИИ начинает предлагать решения, связанные с этой проблемой. Например, ученые-исследователи и инженеры в IBM создали комплекс инструментов, основанных на трех основных принципах: открытость, справедливость и прослеживаемость. Эти программные инструменты обеспечивают отслеживание отклонений алгоритмов ИИ в режиме реального времени, обнаружение потенциально неправильных результатов и автоматическую рекомендацию добавления данных в модель.
Кроме того, предприятия, работающие в строго регулируемых отраслях, часто нуждаются в обширной информации о процессах принятия решений в своих системах ИИ. Способность отслеживать точность, производительность и правильность принятия решений, а также записывать эту информацию способствует выявлению ошибок. С этой целью IBM предложила идею «информационного листа ИИ», где разработчики должны записывать все проектные решения и свойства производительности разработанной системы ИИ, от алгоритмов обработки до наборов обучающих данных и т.д.
Тенденциозность.
Еще одной серьезной проблемой искусственного интеллекта является необъективность, которую начали замечать в последние годы.
Одной из популярных ветвей ИИ является машинное обучение. Яркий пример машинного обучения – распознавание лиц. И в данной ветви возникает следующая проблема. Если информация, которая вносится в алгоритмы, будет несбалансированной, то будет возникать тенденциозность, то есть одностороннее представление или проявление своих личных предпочтений вопреки объективной реальности. В настоящее время сфера искусственного интеллекта страдает от распространенной беды под общим названием «проблема белого человека», т.е. преобладании белых мужчин в результатах его работы.
Есть яркие примеры проявления этой проблемы. В конкурсе красоты, жюри которого был искусственный интеллект, были награждены главным образом белые конкурсантки, алгоритм, выбирающий имена, отдавал предпочтение «белым» именам.
Необходимо внести ряд существенных изменений в работу ИИ, если он будет призван выполнять куда более важные задачи, такие как, например, вынесение вердиктов в суде. Также необходимо принять меры предосторожности по предотвращению вмешательства в работу алгоритмов ИИ со стороны третьих лиц, направленного на искажение результатов работы ИИ в свою пользу.
Этого можно достичь, сделав процесс наполнения алгоритмов данными прозрачным и открытым. Создание общих хранилищ данных, которые не будут принадлежать кому-то одному и могут быть проверены независимыми органами, могут помочь в продвижении к этой цели [2].
Принципы проектирования, разработки и использования ИИ.
И исследователи, и умы в сфере политики борются с ранее упомянутыми проблемами. В результате этого были определены несколько руководящих принципов проектирования, разработки и использования ИИ:
- Принципы IBM (доверия и прозрачности): ИИ должен увеличивать человеческий интеллект, а не заменять его, доверие является ключом к принятию решения.
- Принципы Google: ИИ должен защищать конфиденциальность, быть социально полезным, справедливым и безопасным.
- Принципы Asilomar: эти 23 принципа охватывают исследования, этику и ценности ИИ. Принципы были подписаны 1273 исследователями и 2541 другими заинтересованными людьми, включая Илона Маска и Стивена Хокинга.
- Принципы партнерства по ИИ (PAI): восемь принципов для создания открытой и совместной среды для обсуждения использования и применения ИИ и социальной ответственности компаний, поставляющих ИИ.
- Принципы Всемирного экономического форума: 5 принципов, которые охватывают цель ИИ, справедливость принятия решений, защиту данных, право всех использовать ИИ для своего благополучия.
- Принципы IEEE: набор принципов, которые помещают ИИ в рамки прав человека со ссылками на благополучие, подотчетность, корпоративную ответственность и этику ИИ [3].
Вывод.
ИИ-это мощная технология, которая оказывает огромное положительное влияние на нашу жизнь. Однако, чтобы в полной мере оценить его потенциальные преимущества, нам нужно построить систему доверия, как к технологии, так и к тем, кто ее производит. Вопросы предвзятости, открытости, обработки данных, прозрачности политик данных и выбора дизайна должны решаться ответственным и открытым способом. Только целостный, междисциплинарный и многосторонний подход может построить такую систему доверия.
Литература:
- «Что такое искусственный интеллект?» [Электронный ресурс].
- «Четыре проблемы искусственного интеллекта, требующие решения» [Электронный ресурс].
- Международный союз электросвязи «Искусственный интеллект для всеобщего блага» [Электронный ресурс].