Рейтинг@Mail.ru

Ученые придумали кнопку для остановки искусственного интеллекта

Катерина Лысенко, опубликовано 6 июня 2016 г.

Рубрика: Новые технологии

Лаборатория DeepMind, принадлежащая Google, заручившись поддержкой специалистов Оксфордского университета, объявила о старте работ по созданию системы аварийного выключения алгоритмов, имеющих возможность к самообучению. Их «Красная Кнопка» призвана остановить искусственный интеллект, если вдруг тот вознамерится действовать таким образом, который представляет опасность и приводит к последствиям, которые необратимы. Об этом поведал сайт работающего над изучением машинного интеллекта института.

Google

Если у работающей под контролем человека системы ИИ возникнет ситуация, в которой она будет близкой к совершению действий, несущих вред человеку или ей самой, то оператору будет достаточно нажать на «красную кнопку» для прекращения работы. Кроме того, главным приоритетом использования инструмента будет использование оного в робототехнике. Команда «стоп», передаваемая с помощью упомянутой выше «Красной Кнопки», прервет деятельность робота, обезопасив оного от людей и окружения.

Все большее количество ученых задумывается о том, что свободу искусственного интеллекта было бы логично ограничить, однако кто даст гарантию того, что ИИ не будет притворяться в том, что он тупее, чем на самом деле? До тех пор, пока не найдет возможности захватить контроль над всем до чего может дотянуться.