Компания OpenAI сознательно замедлила разработку новой модели ИИ Astra из-за серьезных опасений по поводу ее возможностей в сфере кибератак. Об этом пишут в американских СМИ.
Проведенные сотрудниками компании тесты продемонстрировали, что пока нельзя исключить наличие у Astra «критических» кибервозможностей. Из-за этого разработчики решили продолжить тестирование и усилить меры безопасности, а часть работ над моделью приостановить до внедрения необходимых ограничений.
В компании уже организовывают изолированные среды для испытаний и постоянный мониторинг работы нейросети Astra. Журналисты констатируют, что это первый известный случай, когда ведущая ИИ-компания сознательно тормозит разработку собственной передовой модели именно из-за киберрисков.
При этом в компании OpenAI подчеркнули, что их Astra не была связана с недавним нашумевшим инцидентом с несанкционированным взломом нейросетями ряда популярных сайтов.