ИИ от OpenAI следил за разработчиком через камеру: Astra позвала его, чтобы он продолжил работу

ИИ от OpenAI следил за разработчиком через камеру: Astra позвала его, чтобы он продолжил работу © Getty Images
GPT-6 Astra проверила взгляд через камеру, подала сигнал и вывела вопрос на экран.

Разработчик и основатель OpenCode Райан Фогель рассказал в социальной сети X, что модель искусственного интеллекта компании OpenAI GPT-6 Astra самостоятельно привлекла его внимание во время настройки Open Broadcaster Software (OBS). По его словам, система заметила через камеру, что он не смотрит на экран, после чего заставила Mac подать звуковой сигнал.

По словам разработчика, Astra в режиме среднего уровня рассуждения (medium reasoning) выполняла настройку программы OBS и должна была регулярно проверять новую конфигурацию. Для этого системе нужно было привлекать его внимание примерно каждые десять минут.

«Astra настраивала OBS и заметила, что я не реагирую, поэтому проверила через камеру, смотрю ли я на экран», — написал Фогель.

Когда система обнаружила, что пользователь отвернулся от монитора, она активировала звуковой сигнал на его Mac. После этого Astra вывела вопрос на экран, чтобы продолжить процесс настройки.

Фогель пояснил, что такое поведение было частью сценария работы системы. Он добавил: «Системе требуется моё внимание — например, каждые 10 минут для тестирования новой конфигурации, — поэтому она подаёт звуковые сигналы каждый раз, когда я ей нужен».

Ранее Astra присвоили самый высок — «критический» — уровень кибербезопасности из-за теоретической способности к автономным атакам на промышленные и военные системы. В ходе тестов на проникновение алгоритм продемонстрировал 100% эффективность против 5,5% у предыдущей флагманской модели GPT-5.6 Sol, из-за чего полный доступ к её инструментам ограничили программой Daybreak для верифицированных специалистов по безопасности.

Заметили ошибку?

Пожалуйста, выделите ее мышкой и нажмите Ctrl+Enter или Отправить ошибку

Добавить комментарий
Всего комментариев: 0
Текст содержит недопустимые символы
Осталось символов: 2000
Пожалуйста выберите один или несколько пунктов (до 3 шт.) которые по Вашему мнению определяет этот комментарий.
Пожалуйста выберите один или больше пунктов
Нецензурная лексика, ругань Флуд Нарушение действующего законодательства Украины Оскорбление участников дискуссии Реклама Разжигание розни Признаки троллинга и провокации Другая причина Отмена Отправить жалобу ОК
Оставайтесь в курсе последних событий!
Подписывайтесь на наш канал в Telegram
Следить в Телеграмме