Twitter объявляет о программе bug bounty, чтобы найти предвзятость в алгоритмах ИИ

Кредит изображения: pixabay.com

Гигант микроблогов Twitter объявил о программе вознаграждения за ошибки, направленной на обнаружение ошибок в алгоритмах искусственного интеллекта (ИИ). Компания предлагает вознаграждение на сумму до 3500 долларов за выявление предубеждений в алгоритмах обрезки изображений — инициативу, объявленную Twitter в мае.

«Мы были вдохновлены тем, как сообщества исследователей и хакеров помогли сообществу специалистов по безопасности выработать передовые методы выявления и устранения уязвимостей для защиты населения». Сказал в компании. Сообщение блога.. «Мы хотим создать подобное сообщество, ориентированное на этику машинного обучения, чтобы мы могли выявлять более широкий круг проблем, чем мы можем сделать сами. С этим вызовом мы в Твиттере. И отрасль стремится создать прецедент для позитивной и коллективной идентификации алгоритмического вреда.. «

Платформы социальных сетей совместно используют код модели значимости, используемый для создания обрезанных версий изображений на платформе. «Если вход будет успешным, подход будет рассматривать как количественные, так и качественные методы,— говорится в сообщении. Мы попросили членов сообщества отправлять свои записи через HackerOne, платформу для корректировки уязвимостей и вознаграждения за ошибки.

Twitter объявит победителей 8 августа на конференции AI Village DEFCON в этом году. Он предлагает победителям представить свои работы во время встречи и предлагает победителю, занявшему первое место, 3500 долларов.

Занявшие 2-е и 3-е места получат 1000 и 500 долларов соответственно. Кроме того, «самые инновационные» и «наиболее обобщенные» работы получат награду в размере 1000 долларов США. Последнее относится к большинству типов алгоритмов ИИ.

Технологические компании, такие как Twitter, регулярно запускают программы вознаграждения за ошибки, чтобы обеспечить безопасность своих платформ, но программы, обнаруживающие предвзятость алгоритмов, довольно новы.

Этот шаг согласуется с тем, что генеральный директор компании Джек Дорси сказал в своем сообщении о доходах за четвертый квартал в феврале. Дорси предложил рыночный подход к алгоритмам рекомендаций, давая пользователям возможность выбирать тип алгоритма, который они хотят использовать.

«Одна из вещей, которые мы подняли в прошлом году для решения некоторых проблем, с которыми сталкивается Раздел 230 (Закона США о порядочности в области коммуникаций), — это предоставить вам больше возможностей выбора алгоритма ранжирования, который вы используете.

Речь идет о том, чтобы дать людям », — сказал он тогда. «Я могу представить себе более рыночный подход к алгоритму, который мы можем разместить как хост, так и принять участие», — добавил он.

Предвзятость и неточность рекомендуемых алгоритмов, используемых на таких платформах, как Facebook, Twitter и Google, также являются важной частью будущего регулирования.

Споры по поводу Google, увольнения исследователя этики ИИ Тимнита Гебру, также поднимают вопрос о том, действительно ли крупные технологические компании заинтересованы в обнаружении алгоритмических неточностей и предрассудков, особенно когда это мешает прибыли.

Источник

Похожие записи

Добавить комментарий

Ваш адрес email не будет опубликован.