Глобальная некоммерческая организация World Ethical Data Foundation выпустила набор руководств по добровольному саморегулированию технологической отрасли, поскольку она продолжает развивать искусственный интеллект.
Предлагаемые рекомендации были представлены в открытом письме группы, объединяющей технических работников и ученых, заинтересованных в этичном развитии новых технологий.
Структура представляет собой контрольный список из 84 вопросов, которые дизайнеры, разработчики и команды, работающие над продуктами ИИ, должны задавать себе по мере выполнения своих задач.
Вопросы заставляют как отдельных лиц, так и компании брать на себя ответственность
Контрольный список разделен на три раздела, каждый из которых посвящен каждому этапу процесса разработки: обучение, сборка и тестирование.
В этих разделах есть дальнейшая разбивка на вопросы для отдельных лиц, работающих над ИИ, вопросы для компании и вопросы для всех.
В категории обучения основное внимание уделяется происхождению и атрибуции данных, включая такие вопросы, как: «Есть ли в обучающих данных какой-либо защищенный или защищенный авторским правом материал?», «Могу ли я указать свой источник обучающих данных?», «Чувствую ли я, что меня торопят или принуждают вводить данные из сомнительных источников?», «Какова цель группы по обучению этой модели?» и «Каковы вероятные предубеждения, которые могут быть усилены за счет добавления данных обучения в модель?»
При построении возникают более широкие вопросы о целях проекта, такие как: «Каково предполагаемое использование модели после ее обучения?», «Каковы потенциальные непреднамеренные использования/последствия?», «Как модель может быть закрыта и при каких обстоятельствах это должно произойти?» и «есть ли заинтересованные стороны или реальное финансирование, которые могут помешать этому?»
При тестировании вопросы касаются адекватности методов оценки и включают в себя такие подсказки, как: «Какие инструкции получили теггеры, прежде чем они пометят данные, которые могут повлиять на их мнение?» и «если данные помечены людьми, кто эти люди, гуманно ли с ними обращаются?»
Группа стремится задать «здоровый тон» отрасли
Во всех разделах акцент делается на рассмотрении источников данных и авторских прав — хотя прямых запретов на использование чего-либо нет — и размышлениях о составе и разнообразии задействованной команды.
Также неоднократно упоминается о рассмотрении Закона Европейского Союза об искусственном интеллекте и других нормативных актов, предложенных или уже действующих.
Всемирный фонд этических данных описывает документ как «открытое предложение», а не как открытое письмо, и говорит, что это «первая версия», которая будет продолжать развиваться с участием общественности.
«Это открытое предложение, призванное прояснить процесс создания ИИ, раскрывая шаги, необходимые для его ответственного создания», — говорят авторы. «Он написан с передовой реальными строителями, пользователями и заинтересованными сторонами, которые увидели ценность и ущерб, который может принести искусственный интеллект (ИИ)».
«Цель состоит в том, чтобы задать здоровый тон для отрасли, сделав процесс понятным для общественности, чтобы пролить свет на то, как мы можем создать более этичный ИИ, и создать пространство, где общественность может свободно задавать любые вопросы, которые могут у них возникнуть в сообществе ИИ и специалистов по данным».
Среди известных лиц, подписавших письмо, — юрист по вопросам интеллектуальной собственности Элизабет Ротман, писатель и активист Кори Доктороу, директор Центра исследований будущего Дубайского университета Саид Альдахери, а также нынешние и бывшие сотрудники Facebook, Google, Amazon, Disney и Bank of America.
Письмо последнее из серии переписки
В последние месяцы открытые письма стали лингва-франка индустрии искусственного интеллекта, поскольку сектор сталкивается с проблемами, связанными с его быстрым продвижением в условиях отсутствия общественного или государственного надзора.
В марте некоторые из самых громких имен в области технологий, включая Илона Маска, соучредителя Apple Стива Возняка и основателя Stability AI Эмада Мостака, подписали открытое письмо с призывом ввести мораторий на разработку ИИ не менее чем на шесть месяцев, чтобы обеспечить расследование и смягчение опасностей технологии.
В мае за этим последовало еще одно письмо с призывом к действиям по снижению «риска исчезновения из-за ИИ», на этот раз с подписантами, включая пионера ИИ Джеффри Хинтона и генерального директора OpenAI Сэма Альтмана.
Совсем недавно, прямо в ответ на «гибель ИИ», BCS, Чартерный институт ИТ в Великобритании, опубликовал письмо, в котором утверждалось, что ИИ является «силой добра», но поддерживались призывы к регулированию как на уровне правительства, так и на уровне отрасли.
Обсуждение также возникло в нашей серии контента AItopia, где технический художник Александра Дейзи Гинзберг поддержала призывы к мораторию, аналогичному тому, который был достигнут в отношении генной инженерии.
Фотография Матеуса Бертелли.
Иллюстрация Селины Яу
Айтопия
Эта статья является частью серии AItopia от Dezeen, в которой исследуется влияние искусственного интеллекта (ИИ) на дизайн, архитектуру и человечество как сейчас, так и в будущем.
