Hugging Face: Проблемы с модерацией недобровольного сексуального ИИ-контента
Hugging Face, крупная платформа, размещающая миллионы моделей искусственного интеллекта (ИИ) и тысячи наборов данных, подвергается критике за отсутствие конкретных инструментов модерации, направленных на предотвращение создания и распространения недобровольного сексуального контента. Согласно исследованию неправительственной организации AI Forensics, компания не внедрила никаких существенных мер безопасности для блокировки доступа к проблемным моделям, включая те, что используются для генерации изображений и видео сексуального насилия над детьми с помощью ИИ, а также не фильтрует соответствующие запросы пользователей.
Эта ситуация вызывает особую тревогу, учитывая, что Европейский союз в рамках своего Закона об ИИ (AI Act) явно запретил использование «систем "раздевания"» (nudification systems) без согласия лиц, изображенных на них. Эксперимент, проведенный AI Forensics с использованием "приманки" для отслеживания пользовательских запросов, показал, что 73% запросов в течение всего одной недели касались контента сексуального характера, причем 60% из них, вероятно, были недобровольными.
Распространение такого рода материалов усугубляется недавними предупреждениями Фонда интернет-безопасности (IWF) о резком росте подобного контента. Как ранее объясняла бывший командир полиции Вероник Бешу, трудность различения реальных изображений детской порнографии от сгенерированных ИИ изображений тратит драгоценное время полицейских команд, занимающихся защитой жертв. Кроме того, рост числа таких материалов прямо способствует нормализации и обесцениванию сексуального насилия.
Свежие материалы — Новости технологий
ЕС отложил и отменил публикацию спутниковых снимков Оманского залива по запросу США
По запросу Соединенных Штатов, Европейский союз согласился отложить на 24 часа распространение спутниковых снимков со спутников Sentinel 1 и 2, сделанных в регионе Оманского залива. Это решение было мотивировано «безопасностью в интересах Союза». Однако всего две недели спустя ЕС объя
Google Earth приостановил функцию добавления несуществующих объектов (Обновлено)
Обновление: Google объявил о временной приостановке работы инструмента генерации изображений на базе искусственного интеллекта в Google Earth. Это решение было принято после обнаружения, что "некоторые пользователи делились сгенерированными изображениями, которые, по всей видимости, нарушали н
☕️ Швейцарская Infomaniak готовится к выходу на биржу
Компания Infomaniak активно готовится к своему дебюту на фондовом рынке. Швейцарская фирма заключила соглашение об обратном слиянии с Perrot Duval Holding, еще одной швейцарской компанией с более чем вековой историей (основана в 1905 году). Ожидается, что этот шаг позволит Infomaniak выйти
Утечки в Claude из общедоступных чатов: В чем на самом деле проблема?
Пользователи обнаружили, что общие чаты Claude легко найти через поисковые системы. Компания Anthropic, разработчик Claude, утверждает, что это ожидаемое поведение функционала. Однако ситуация оказалась сложнее, и, что еще тревожнее, это уже четвертый подобный инцидент за год. В выходн
Что известно об Arcadia: ИИ, который должен заменить Palantir в системах армии
Система Arcadia должна была пройти испытания в рамках учений НАТО Coalition Warrior Interoperability Exercise, но в итоге не была представлена. Что же известно об этой платформе, оснащенной искусственным интеллектом, с помощью которой французская армия планирует отказаться от услуг Palantir и
Varta: Немецкий производитель аккумуляторов на грани краха после потери Apple
Немецкий производитель аккумуляторов Varta инициировал процедуру банкротства. Это решение стало прямым следствием потери одного из важнейших клиентов компании — Apple, которая приняла решение закупать миниатюрные аккумуляторы для своих наушников AirPods у китайских поставщиков, предлагающих бол