Где на самом деле ломаются компьютерные агенты

Исследователь Неел Сомани предупреждает: обещанная автономность компьютерных агентов пока не подкреплена надёжной инфраструктурой — технологии работают, но слишком часто и опасно…

Читать полностью

#КомпьютерныеАгенты #Нейросети #БезопасностьИИ

Иллюзия логики: почему цепочки рассуждений ИИ могут быть обманчивыми

Новое исследование Anthropic показывает, что метод Chain of Thought не всегда отражает внутреннюю логику ИИ, создавая лишь видимость прозрачности для…

Читать полностью

#ИскусственныйИнтеллект #ChainOfThought #БезопасностьИИ

Уволенные сотрудники OpenAI предупреждают об опасности скрытых процессов ИИ

Бывшие работники OpenAI призывают компанию сохранить возможность мониторинга цепочек рассуждений моделей из-за рисков самосовершенствования ИИ.

Читать полностью

#OpenAI #ИскусственныйИнтеллект #БезопасностьИИ