Google сформулировала пять принципов безопасности робототехники

Компании Google и OpenAI совместно с Калифорнийскимуниверситетом в Беркли и Стэнфордским университетом сформулировали пять практическихпроблем, которые необходимо учитывать разработчикам искусственного интеллекта. Препринтих статьи доступен на ресурсе arXiv.org.

Как пишет сотрудник Google и один из авторов публикации Крис Ола (Chris Olah) в корпоративном блоге, хотя связанные сИИ риски привлекают большое общественное внимание, дискуссии по их поводуобычно слишком гипотетические и спекулятивные. Статья призвана конкретизироватьпотенциальные опасности, которые необходимо учитывать при разработках в этомнаправлении.

Среди проблем, которые должны учитывать разработчики системИИ для практического применения, авторы работы выделяют следующие:

Среди возможных путей решения исследователи называютиспользование симуляций в обучении, ограничение пространства деятельностироботов и человеческий надзор, однако ни один из них не представляетокончательного решения проблемы. По мнению специалистов Google, обеспечить заданную работусистем машинного обучения могут только ответственные, открытые и междисциплинарныеусилия разработчиков.

Олег Лищук

N+1