Искусственный интеллект обоснует действия естественным языком

Искусственный интеллект обоснует действия естественным языком

Учёными Технологического института Джорджии, совместно с представителями Корнельского университета и университета Кентукки, разработан искусственно интеллектуальный агент (ИИА). Разработка уникальна тем, что способна автоматически объяснить на естественном языке собственные действия в режиме реального времени. Разработка, в первую очередь, призвана дать людям, взаимодействующим с агентами искусственного интеллекта (проще выражаясь – с роботами), уверенность правильного выполнения задачи. В противном случае робот должен объяснить ошибку или ошибочные действия.

Языковое объяснение роботов

Агентом искусственного интеллекта, помимо профессионального языка, также используется повседневный язык, понятный всем без ограничений. Языковые объяснения («обоснования»), как поясняют разработчики, предназначены для связывания и внушения доверия служащим, присутствующим на рабочем месте рядом с машинами. Такой подход помогает лучше взаимодействовать с роботами в различных социальных ситуациях.

Чтобы демократизировать всю имеющуюся силу ИИА, необходимо обеспечить доступ к этой силе каждому, независимо от технических возможностей. Так считают разработчики технологии. Поскольку ИИА охватывает практически все аспекты социальной жизни, существует явная потребность конструкции искусственного интеллекта, ориентированной на человека. Такие конструкции способны делать системы «чёрных ящиков» доступными для объяснения обычному пользователю.

Эта разработка поддержана Управлением военно-морских исследований США. В свою очередь, разработчиками проведены исследования участников с целью обоснований искусственным интеллектом имитации человеческих реакций. В частности, проводились наблюдения за игрой искусственного интеллекта с аркадой-головоломкой «Фроггер», после чего оценивались три экранных объяснения по качеству описания хода игры.

Анонимизированные обоснования каждого хода выстраивались тремя видами ответов:

  • человека,
  • агента искусственного интеллекта,
  • генератора случайных чисел.

Результаты необычного конкурса обоснований

Участвующее в «смотринах» жюри предпочли отдать первое место обоснованиям, сделанным человеком. На втором месте оказались обоснования игры, сгенерированные агентом искусственного интеллекта. Анализ «Фроггер» предоставил исследователям возможность обучить искусственный интеллект в «среде последовательного принятия решений», что является серьезной исследовательской задачей.

Сгенерированные ИИА обоснования, которые участники оценили выше, оказались такими, которые продемонстрировали признание условий окружающей среды и адаптивность. Также оценивались обоснования, которые сообщали о предстоящих опасностях и планировании таких опасностей. Обнаружилось, что избыточная информация, в которой только что указывалось на очевидную или искаженную окружающую среду, оказывала негативное влияние.


При помощи информации: Gatech


Добавить комментарий

Внимание: Спам не пройдёт. Работает фильтрация комментариев. *