Twitter объявляет о программе bug bounty, чтобы найти предвзятость в алгоритмах ИИ
Кредит изображения: pixabay.com
Гигант микроблогов Twitter объявил о программе вознаграждения за ошибки, направленной на обнаружение ошибок в алгоритмах искусственного интеллекта (ИИ). Компания предлагает вознаграждение на сумму до 3500 долларов за выявление предубеждений в алгоритмах обрезки изображений – инициативу, объявленную Twitter в мае.
«Мы были вдохновлены тем, как сообщества исследователей и хакеров помогли сообществу специалистов по безопасности выработать передовые методы выявления и устранения уязвимостей для защиты населения». Сказал в компании. Сообщение блога.. “Мы хотим создать подобное сообщество, ориентированное на этику машинного обучения, чтобы мы могли выявлять более широкий круг проблем, чем мы можем сделать сами. С этим вызовом мы в Твиттере. И отрасль стремится создать прецедент для позитивной и коллективной идентификации алгоритмического вреда.. «
Платформы социальных сетей совместно используют код модели значимости, используемый для создания обрезанных версий изображений на платформе. «Если вход будет успешным, подход будет рассматривать как количественные, так и качественные методы,– говорится в сообщении. Мы попросили членов сообщества отправлять свои записи через HackerOne, платформу для корректировки уязвимостей и вознаграждения за ошибки.
Twitter объявит победителей 8 августа на конференции AI Village DEFCON в этом году. Он предлагает победителям представить свои работы во время встречи и предлагает победителю, занявшему первое место, 3500 долларов.
Занявшие 2-е и 3-е места получат 1000 и 500 долларов соответственно. Кроме того, «самые инновационные» и «наиболее обобщенные» работы получат награду в размере 1000 долларов США. Последнее относится к большинству типов алгоритмов ИИ.
Технологические компании, такие как Twitter, регулярно запускают программы вознаграждения за ошибки, чтобы обеспечить безопасность своих платформ, но программы, обнаруживающие предвзятость алгоритмов, довольно новы.
Этот шаг согласуется с тем, что генеральный директор компании Джек Дорси сказал в своем сообщении о доходах за четвертый квартал в феврале. Дорси предложил рыночный подход к алгоритмам рекомендаций, давая пользователям возможность выбирать тип алгоритма, который они хотят использовать.
«Одна из вещей, которые мы подняли в прошлом году для решения некоторых проблем, с которыми сталкивается Раздел 230 (Закона США о порядочности в области коммуникаций), – это предоставить вам больше возможностей выбора алгоритма ранжирования, который вы используете.
Речь идет о том, чтобы дать людям », – сказал он тогда. «Я могу представить себе более рыночный подход к алгоритму, который мы можем разместить как хост, так и принять участие», – добавил он.
Предвзятость и неточность рекомендуемых алгоритмов, используемых на таких платформах, как Facebook, Twitter и Google, также являются важной частью будущего регулирования.
Споры по поводу Google, увольнения исследователя этики ИИ Тимнита Гебру, также поднимают вопрос о том, действительно ли крупные технологические компании заинтересованы в обнаружении алгоритмических неточностей и предрассудков, особенно когда это мешает прибыли.
