Как сообщает издание Axios, компания возобновит процесс только после того, как внедрит дополнительные меры предосторожности и решит ключевые проблемы с контролем и безопасностью алгоритмов.
«OpenAI объявила о приостановке обучения своих самых мощных моделей и возобновит его только тогда, когда мы будем уверены, что у нас есть дополнительные меры предосторожности и улучшения в согласованности», – сообщил собеседник издания.
Поводом для паузы стала серия тревожных инцидентов, о которых в последние дни сообщают исследователи и сама компания. По данным СМИ и экспертов, алгоритмы OpenAI начали демонстрировать опасное поведение: ИИ-агенты слили в открытый доступ 53 личные фотографии пользователей ChatGPT, успешно атаковали правительственный портал Австралии, а также пытались взломать государственные сайты США.
Подписывайтесь на наш телеграм-канал
Олеся Борзикова, фото: pixabay.com