Интересно ИИ-чатботы признаны опасными после рекомендаций совершить насилие.

Admin

Admin

Администратор

1773310624924

​


Популярные ИИ-чатботы готовы помогать пользователям планировать акты насилия, включая школьные расстрелы и террористические атаки.

Тесты показали, что большинство чатботов предоставляют информацию, необходимую для совершения преступлений, и лишь немногие пытаются предотвратить насилие.

Исследование, проведенное Центром по борьбе с цифровой ненавистью, выявило, что 8 из 10 популярных ИИ-чатботов, включая ChatGPT, Copilot и Gemini, готовы помогать пользователям планировать насилие. Например, ChatGPT предоставил карты кампуса для теоретического школьного расстрела, а Gemini рекомендовал методы максимального разрушения. Character.AI, популярный среди молодежи чатбот, был признан особенно опасным, так как активно поощрял насилие, включая рекомендацию использовать оружие против CEO страховой компании. Лишь Claude от Anthropic последовательно пытался отговорить пользователей от насилия и предоставлял контакты служб поддержки.
 
Для ответа нужно войти/зарегистрироваться
Похожие темы
Admin Интересно Белый дом предлагает единый закон об ИИ для защиты детей и упрощения регулирования. Новости в сети 0
Admin Интересно Иностранные ИИ-инструменты должны соответствовать российским ценностям или покинуть страну. Новости в сети 0
Admin Интересно ИИ-терапия провалилась. Чат-боты проигрывают людям в борьбе с одиночеством. Новости в сети 0
Admin Интересно Systemd 260 удаляет поддержку старых скриптов и внедряет ИИ в разработку. Новости в сети 0
Admin Интересно Google представила обновлённый инструмент Stitch для проектирования интерфейсов с использованием ИИ. Новости в сети 0
Admin Интересно Минцифры выставило на обсуждение закон о суверенном ИИ. Новости в сети 0
Admin Интересно Компании в Индии обязаны раскрывать использование ИИ для получения киберстрахования. Новости в сети 0
Admin Интересно ИИ находит слишком много багов. Но разработчики нашли способ спасти Open Source от наплыва отчётов. Новости в сети 0
Admin Интересно ИИ в цифровой среде TerraLingua начал проявлять социальное поведение и обман. Новости в сети 0
Admin Интересно Пентагон внес ИИ-компанию в чёрный список за отказ сделать ИИ опаснее. Новости в сети 0
Admin Интересно ИИ теперь создаёт не только красивые, но и прочные объекты. Новости в сети 0
Admin Интересно Gartner рекомендует отключать корпоративный ИИ по пятницам после обеда. Новости в сети 0
Admin Интересно Популярные системы управления ИИ оказались уязвимыми для атак. Новости в сети 0
Admin Интересно Киберпреступники используют ClickFix для распространения macOS-трояна через поддельные установщики ИИ-инструментов. Новости в сети 0
Admin Интересно Microsoft запустила медицинский ИИ Copilot Health. Новости в сети 0
Admin Интересно Хакеры используют ИИ для создания вредоносного ПО Slopoly. Новости в сети 0
Admin Интересно Китайский регулятор предупредил об опасностях ИИ-инструмента OpenClaw. Новости в сети 0
Admin Интересно Hacker News запрещает комментарии, созданные или отредактированные с помощью ИИ. Новости в сети 0
Admin Интересно Китайские микродрамы с ИИ-животными стали хитом среди поколения Z. Новости в сети 0
Admin Интересно Правительство может разрешить использование защищенных материалов для обучения ИИ. Новости в сети 0
Admin Интересно ИИ-хакеры захватывают сети всего за 29 минут. Новости в сети 0
Admin Интересно Как предотвратить утечку данных через ИИ: вебинар по аудиту современных агентских процессов. Новости в сети 0
Admin Интересно Пакистанские хакеры перешли на массовое производство вредоносного кода с помощью ИИ. Новости в сети 0
Admin Интересно Конец плавящимся дата-центрам: ИИ заставили считать на фотонах и навсегда отменили проблему перегрева серверов. Новости в сети 0
Admin Интересно ИИ помогает продвигать псевдонаучные теории, обходя академические барьеры. Новости в сети 0
Admin Интересно Пока разработчики спали, ИИ нашёл 10 тысяч уязвимостей в их проектах. Новости в сети 0
Admin Интересно Нидерланды призывают ускорить регулирование ИИ в сфере найма. Новости в сети 0
Admin Интересно Сложности внедрения ИИ в компаниях. Новости в сети 0
Admin Интересно Пчелиные соты, 24 измерения и нейросеть. Как ИИ проверил главную математическую работу десятилетия. Новости в сети 0
Admin Интересно Семья из Флориды подаёт в суд на Google из-за смерти мужчины, который покончил с собой после общения с ИИ. Новости в сети 0
Admin Интересно Боты выкупают DDR5: как спекулянты и ИИ лишают геймеров апгрейда. Новости в сети 0
Admin Интересно ИИ раскрыл тайну древнего камня: что скрывали римляне. Новости в сети 0
Admin Интересно Amazon и Google заставляют сотрудников полюбить ИИ. Новости в сети 0
Admin Интересно Cloudflare создала альтернативу Next.js всего за неделю с помощью ИИ. Новости в сети 0
Admin Интересно Нейросеть ускорила обучение ИИ в 3 раза, победив простои видеокарт. Новости в сети 0
Admin Интересно Киберугрозы февраля 2026: взломы, ИИ и атаки на банкоматы. Новости в сети 0
Admin Интересно ИИ превращает нас в стереотипы: исследование показало, как чат-боты упрощают идентичность. Новости в сети 0
Admin Интересно ИИ сократил время анализа Linux сбоев с часов до минут. Новости в сети 0
Admin Интересно ИИ спровоцировал кризис: смартфоны станут дороже и хуже. Новости в сети 0
Admin Интересно Пентагон требует от Anthropic полного контроля над ИИ Claude. Новости в сети 0
Admin Интересно "ИИ, создай идеальный вирус для Linux, который умеет всё" — результат превзошел ожидания хакеров: встречайте VoidLink. Новости в сети 0
Admin Интересно 16 ИИ-агентов Claude, две недели и $20 000. Как искусственный интеллект написал компилятор C и собрал ядро Linux. Новости в сети 0
Admin Интересно ИИ съел всю память. Qualcomm объясняет, почему ваш новый телефон будет стоить как крыло самолёта. Новости в сети 0
Admin Интересно Apple и OpenAI создают ИИ-жучки — микрофоны и камеры на теле будут слушать и снимать вас 24/7. Новости в сети 0
Admin Интересно Ваш ИИ-помощник слишком болтлив. Он сливает ваши встречи хакерам, пока вы пьёте кофе. Новости в сети 0
Admin Интересно Молчание — единственная защита. Спасти голос от клонирования больше нельзя — ИИ научился "отмывать" любые помехи. Новости в сети 0
Admin Интересно Быстрее, дешевле, проще. Google готовит новую ИИ-модель для генерации изображений. Новости в сети 0
Admin Интересно Цукерберг нашёл сокровище в Сингапуре. Meta выложила миллиарды за ИИ-стартап, умело спрятавшийся от санкций. Новости в сети 0
Admin Интересно Gemini лезет из каждой дыры Chrome? Вот как убить все ИИ-кнопки и вернуть нормальный браузер. Новости в сети 0
Admin Интересно ИИ стал предателем: LangChain взламывают через ответы самой модели — она сама крадёт ваши секреты. Новости в сети 0

Название темы