8 ноября 2026 г.
MIT представил систему, которая исправляет ошибки робота в памяти
UQ-DAAAM помогает роботу находить ненадёжные описания объектов, выбирать дополнительные ракурсы и обновлять память без полного повторного анализа окружающей среды.
Исследователи Массачусетского технологического института разработали UQ-DAAAM, систему для обнаружения и исправления ненадёжных описаний объектов в памяти робота. Технология помогает машине понять, когда она могла ошибиться, выбрать дополнительные изображения объекта и обновить запись в трёхмерной карте окружающей среды.
Решение предназначено для роботов, которые используют камеры и языковые модели для описания пространства. Ошибка в такой памяти может повлиять на последующие действия. Например, робот способен принять настенный дефибриллятор за огнетушитель и затем неверно ответить на вопрос о его расположении.
Как робот проверяет собственные воспоминания
UQ-DAAAM сравнивает несколько описаний одного объекта, полученных с разных точек обзора. Система отдельно оценивает уверенность модели в выбранных словах и согласованность описаний между собой. Если итоговая неопределённость превышает заданный порог, робот ищет дополнительные кадры, которые могут уточнить объект.
Метод продолжает работу во время движения робота. Исследователи добавили правило выбора наиболее полезных ракурсов, поэтому системе не требуется заново запускать языковую модель для каждого изображения. После этого большая языковая модель объединяет уточнённые подписи в одну запись, отдавая больший вес новым и менее неоднозначным описаниям.
Результаты эксперимента
| Показатель | Результат |
|---|---|
| Разрешение неоднозначностей | Около 92% объектов |
| Дополнительные описания | В среднем два на объект |
| Рост точности описаний | 5% по сравнению с современными базовыми методами |
| Дополнительные ответы робота | Объект, местоположение и время наблюдения |
В исследовании система также повысила точность ответов на вопросы о том, какие объекты робот видел, где они находились и когда он встречал их в последний раз. Авторы сообщили, что работа будет представлена на конференции NeurIPS.
Зачем это нужно разработчикам ИИ
Для академических проектов UQ-DAAAM представляет интерес как пример объединения компьютерного зрения, языковых моделей и количественной оценки неопределённости. Такой подход переносит проверку результата из внешнего предупреждения о возможной ошибке внутрь самой системы.
Следующим этапом исследователи называют применение метода к мобильным роботам-манипуляторам и поиск участков карты, которые робот должен посетить повторно. При анализе подобных разработок стоит отдельно проверять тип робота, условия эксперимента, размер набора объектов и разницу между лабораторной точностью и работой в реальной среде.
