Рейтинг@Mail.ru

МТИ обучает нейронные сети «аргументировать» свои действия

Сергей Липченко, опубликовано 3 ноября 2016 г.

Рубрика: Новые технологии

Оказывается, внутреннюю работу нейронных сетей понять не легче, чем человеческий мозг. Но благодаря исследованию, проведенному Лабораторией компьютерных наук и искусственного интеллекта (CSAIL) Массачусетского технологического института, скоро это изменится. Специалисты разработали способ «заставить» цифровой разум не только предоставить правильный ответ, классификацию или прогноз, но и объяснить логическое обоснование своего выбора. И при помощи этой функции исследователи смогут создать новое оружие для борьбы с раком груди.

neural-network

Научное сообщество двигается семимильными шагами в сфере разработки искусственного интеллекта – компьютерных систем, которые функционируют как человеческий мозг. Исследователям удалось при помощи этих систем победить лучших игроков Го (японская настольная логическая игра), научиться распознавать изображения и так далее. Нейронные сети теперь лежат в основе некоторых приложений и фоторедакторов. А недавно Google обучил искусственный разум создавать свой собственный алгоритм шифрования.

Проблема заключается в том, что даже исследователи, которые создавали все эти системы, точно не знают, как именно они работают. Это не такая уж проблема, если речь идет о распознавании изображений, так как тут специалисты могут выяснить ход действия сети, исходя из предложенных картинок. Однако с системами на текстовой основе все намного сложнее.

И потому, дабы осветить процесс принятия решений со стороны компьютера, команда CSAIL разбила свою сеть на пару модулей поменьше – один из которых нужен для извлечения сегментов текста и их оценивания, исходя из длины и их связности. Короткие сегменты, извлеченные из длин последовательных слов, получают самый высокий балл. Второй модуль предугадывает содержание сегмента и пытается классифицировать его соответствующим образом.

В процессе тестирования, исследователи использовали обзоры на сайте, специализирующемся на оценивании разных видов пива. И затем их сеть попыталась оценить эти виды пива по 5-бальной шкале исходя из аромата пива, вкуса и внешнего вида, используя отзывы, оставленные пользователями. После обучения системы, команда CSAIL обнаружила, что их нейронная сеть оценила пиво по аромату и внешнему виду по тому же принципу, как это делали 95 и 96% живых пользователей соответственно. Что касается вкуса, то разум «согласился» с людьми в 80% случаях.

После определенной доработки и регулировки, исследователи МТИ надеются в итоге выпустить свою систему машинного обучения, которая поможет бороться с раком груди путем извлечения и анализа объяснений, которые дают патологи по соответствующему диагнозу.