Гейдельбергская компания по разработке искусственного интеллекта заявляет о техническом прорыве

Гейдельбергский ИИ-стартап Aleph Alpha утверждает, что впервые достиг важной вехи на пути к контент-корректному, объяснимому и заслуживающему доверия искусственному интеллекту. Расширение собственной языковой модели Luminous, которое доступно с сегодняшнего дня, способно восстанавливать корреляции в информации и фактической корректности на основе проверенных фактов, пояснила компания в четверг. В то же время система способна показать, какие отрывки текста в источнике вызвали или противоречат сгенерированному ответу.

Если информация, предоставленная Aleph Alpha, подтвердится в ходе независимых тестов, то компания из Гейдельберга сделает важный шаг к устранению систематического недостатка текстовых роботов типа ChatGPT. До сих пор часто было непонятно, почему ChatGPT на самом деле пишет то, что пишет. Пользователи также жалуются, что системы, подобные ChatGPT, предоставляют ложные факты.

Тема «объяснимого ИИ» или сокращенно XAI также уже некоторое время занимает исследователей, которые хотят сделать ИИ более прозрачным. Функция, представленная в пятницу, основана на результатах последних исследований Aleph Alpha, которые были опубликованы в академической среде в начале этого года под названием «AtMan».

Прозрачность и отслеживаемость генерируемого ИИ контента «позволит использовать генеративный ИИ для решения важнейших задач в области права, здравоохранения и банковского дела», – сказал основатель компании Йонас Андрулис. Со своим проектом ИИ Aleph Alpha является маяком надежды для немецкой индустрии программного обеспечения. В отличие от своих основных американских конкурентов OpenAI, Microsoft и Google, компания из Баден-Вюртемберга не предлагает собственной платформы, на которой можно было бы напрямую протестировать систему. Однако с Luminous можно связаться косвенно через клиентов Aleph Alpha, например, через систему информирования граждан «Lumi» города Гейдельберга.