Президент Microsoft сомневается, что AGI будет действовать самостоятельно в ближайшие двенадцать месяцев
По мнению Microsoft, самостоятельно действующий искусственный "сверхинтеллект" еще очень далек от реальности. "Абсолютно маловероятно, что мы увидим так называемый AGI, в котором компьютеры будут мощнее людей, в ближайшие двенадцать месяцев", - заявил в четверг Брэд Смит, президент компании-разработчика программного обеспечения. "На это уйдут годы, если не десятилетия". Однако о безопасности этой технологии следует задуматься уже сейчас.
AGI расшифровывается как "искусственный общий интеллект". В отличие от предыдущих ИИ, таких как ChatGPT от дочерней компании Microsoft OpenAI, эти программы могут выполнять сложные задачи без участия человека. Критики опасаются, что AGI может начать войны или разработать и распространить вирусы, смертельно опасные для человека.
Дискуссия о том, когда наступит момент "технологической сингулярности", когда искусственный интеллект превзойдет человеческий, разгорелась после потрясений, связанных с краткосрочным увольнением генерального директора OpenAI Сэма Альтмана. Не исключено, что свою роль в этом сыграли и разногласия по поводу того, как относиться к прорыву в исследованиях ИИ. По словам инсайдеров, разработчики проекта "Q*" (произносится как Q-Star) предупредили совет директоров OpenAI о потенциально опасных последствиях преждевременного выпуска программы. По мнению президента Microsoft Смита, вопрос о сверхинтеллекте не сыграл никакой роли в увольнении Альтмана. У него были разногласия с советом директоров, но не по таким фундаментальным вопросам, как этот.
Законодатели по всему миру пытаются найти подходящее регулирование ИИ. На саммите по ИИ, состоявшемся в начале ноября, несколько стран обязались работать над этим вопросом совместно. "Что нам действительно нужно, так это системы безопасности", - продолжает Смит. "Как в лифтах есть аварийные тормоза или автоматические выключатели, так и в системах ИИ, управляющих важнейшими объектами инфраструктуры, должны быть такие гарантии, чтобы они всегда оставались под контролем человека".
Источник: www.ntv.de
