Специалисты Google, OpenAI, а также ученые Университета Беркли и Стэнфордского университета сформулировали пять основных проблем, которые необходимо учитывать при проектировании роботов и систем искусственного интеллекта. Статья, в которой они описаны, опубликована в блоге Google.

Почему это важно

Риски, связанные с внедрением роботов и искусственного интеллекта, сегодня привлекают внимание общественности, однако часто они рассматривают проблемы лишь в общем виде или спекулируют на негативных сторонах разработок. Основными проблемами, которые требуется учитывать в процессе создания роботов и ИИ, являются:

  1. Избегание негативных побочных эффектов. К примеру, робот может разбить вазу, чтобы ускорить процесс уборки, а этого быть не должно.
  2. Избегание жульничества. Робот должен убрать мусор, а не прятать его.
  3. Масштабируемость надзора. Робот не должен надоедать владельцу вопросами, используя возможность получить совет эффективно.
  4.  Безопасное обучение. Робот-уборщик не должен экспериментировать с протиранием розеток мокрой тряпкой.
  5. Устойчивость к изменению вида деятельности. Опыт, полученный роботом при уборке пола в цеху фабрики, может быть небезопасно применять при уборке офиса.

Как решить эти проблемы

Эксперты не описывают единого механизма действий, который может решить все проблемы при создании ИИ и роботов. Однако они рекомендуют оставить человеческий надзор за ними, ограничить пространство деятельности каждой системы, применять в обучении симуляции.

В Google подчеркивают, что только строгое, открытое и межинституциональное соблюдение правил обеспечит эффективное и безопасное развитие систем искусственного интеллекта и робототехники. Впрочем, до сих пор не существует правовых инструментов продуктивного регулирования в этой сфере, поэтому придерживаться законов или нет, каждый разработчик фактически решает сам.

По материалам hi-tech.mail.ru

👁 24
comments powered by HyperComments

Оцените статью
Рейтинг: 1Рейтинг: 2Рейтинг: 3Рейтинг: 4Рейтинг: 5 (нет оценок)