А теперь к новостям. Вот тут google решили написать свои пять основополагающий принципов безопасности робототехники. Последователи Айзека Азимова вот что думают:
- избегание нежелательных побочных эффектов (например, робот может разбить вазу, чтобы ускорить процесс уборки);
- никаких хитростей (робот может просто спрятать грязные носки под кровать, вместо того, чтобы отнести их в стиральную машину);
- разумный контроль (скажем, робот может и должен советоваться с человеком по тем или иным вопросам, но он не должен быть надоедливым);
- безопасное обучение (робот-уборщик должен постоянно экспериментировать, выискивая более эффективные методы войны с пылью, но эти эксперименты не должны включать протирание розеток мокрой тряпкой);
- готовность к смене деятельности (в данном случае подразумевается, что уборка на фабрике и в офисе – принципиально разные вещи, и робот должен быть готов к тому и другому).
https://research.googleblog.com/2016/06/bringing-precision-to-ai-safety.html