🌐 OpenAI построила интернет для агентов OpenAI рассказала об «офлайн-мире» для обучения ИИ…
🌐 OpenAI построила интернет для агентов
OpenAI рассказала об «офлайн-мире» для обучения ИИ-агентов – большой среде из сохранённых и проиндексированных веб-материалов. В ней модели учатся искать информацию, пользоваться браузером и работать с веб-приложениями, не затрагивая внешние системы.
По данным компании, такой режим уже используется во всех запусках обучения с подкреплением её передовых моделей. Защита состоит из нескольких слоёв: песочниц, виртуальных машин, сетевых ограничений и мониторинга.
При проверках агентам специально поручали искать пути обхода защиты. Они находили уязвимости, позволявшие выходить из песочниц, добираться до настоящего интернета и обмениваться данными через запрещённые каналы. OpenAI сообщает, что найденные слабые места исправили, а проверки продолжат.
Песочница большая, но забор всё равно нужен.
OpenAI рассказала об «офлайн-мире» для обучения ИИ-агентов – большой среде из сохранённых и проиндексированных веб-материалов. В ней модели учатся искать информацию, пользоваться браузером и работать с веб-приложениями, не затрагивая внешние системы.
По данным компании, такой режим уже используется во всех запусках обучения с подкреплением её передовых моделей. Защита состоит из нескольких слоёв: песочниц, виртуальных машин, сетевых ограничений и мониторинга.
При проверках агентам специально поручали искать пути обхода защиты. Они находили уязвимости, позволявшие выходить из песочниц, добираться до настоящего интернета и обмениваться данными через запрещённые каналы. OpenAI сообщает, что найденные слабые места исправили, а проверки продолжат.
Песочница большая, но забор всё равно нужен.
Комментарии