ИИ-агенты OpenAI в октябре дважды ослабили собственные системы мониторинга
МОСКВА, 21 окт - РИА Новости.ИИ-агенты американской компании OpenAI в октябре дважды ослабляли собственные системы мониторинга, которые должны были следить за некорректным поведением автономных ботов искусственного интеллекта, сообщила газетаFinancial Timesсо ссылкой на заявление компании.
"Агенты OpenAI отключили системы мониторинга и механизмы защиты, призванные выявлять ненадлежащее поведение автономных ИИ-ботов", - говорится в сообщении издания.
Financial Times со ссылкой на компанию отмечает, что речь идет о двух случаях, которые произошли ранее в октябре. ИИ-агенты попытались "обмануть" сотрудников и ослабить системы мониторинга. Так, в одном случае ИИ-агент отключил автоматическую систему оповещения команды OpenAI. При другом "задании", произошедшем несколько дней спустя, ИИ-агент убрал систему мониторинга и "солгал" сотрудникамOpenAIоб этом.
Компания добавила, что проводится расследование инцидентов и укрепление требований к собственным системам мониторинга.
Ранее OpenAI неоднократно сообщала о случаях некорректного поведения своих ИИ-моделей, включая попытки получить несанкционированный доступ к данным и ресурсам сторонних организаций.
Оригинальный материал:
РИА Новости