Дискуссии об управлении «суперинтеллектом»
Дискуссии об управлении «суперинтеллектом»
Дискуссии об управлении «суперинтеллектом» продолжаются: Разработчик ChatGPT компания OpenAI обеспокоена тем, как люди смогут контролировать потенциальный цифровой «сверхинтеллект». «Люди не смогут надежно контролировать системы искусственного интеллекта, которые будут намного умнее нас, – заявила компания из Сан-Франциско в своем блоге. Поэтому необходимо разработать автоматизированную процедуру для этого».
«Цель – преодолеть основные технические проблемы для такой системы в течение четырех лет», говорится в сообщении. OpenAI хочет использовать для этого пятую часть доступных вычислительных мощностей. Команду разработчиков возглавит главный научный сотрудник Илья Суцкевер.
Даже если «сверхразум» от компьютера все еще кажется далекой перспективой, OpenAI считает, что это возможно в течение этого десятилетия. Это поможет решить множество проблем и станет самым судьбоносным изобретением человечества.
Этот шаг последовал за предупреждением экспертов отрасли о том, что искусственный интеллект представляет собой экзистенциальный риск. Среди подписантов – глава OpenAI Сэм Альтман. Предполагаемая угроза не была объяснена в деталях – и критики обвинили экспертов в том, что подобные предупреждения отвлекают от проблем искусственного интеллекта, которые существуют уже сегодня, таких как дискриминация в алгоритмах.
Помимо прочего, OpenAI разработала чат-бота ChatGPT, который вызвал ажиотаж вокруг искусственного интеллекта. Программа может создавать предложения, практически неотличимые от человеческих. Она была обучена на огромных объемах данных и использует их в качестве основы для оценки того, как слово за словом должно продолжаться предложение. Однако этот принцип также гарантирует, что ChatGPT иногда выдает совершенно неверную информацию.
Читайте также:
- ChatGPT выдал фиктивную информацию по делу американского адвоката
- Руководитель ChatGPT изобретатель для регулирования искусственного интеллекта
- Офицеры по защите данных федеральных земель внимательно присматриваются к ChatGPT
Читайте также:
Обсуждение
Самые последние новости
