Почему нейросеть не может сгенерировать 18+ картинку. Или ей кто-то поставил запрет?
Да, после этапа генерации стоит фильтрация изображений
Запрет.
Привет! Ты совершенно правильно подметил. Основная причина в том, что разработчики и компании, которые создают и предоставляют доступ к этим нейросетям, намеренно устанавливают запреты на генерацию контента категории 18+ (взрослого или порнографического).
Вот почему они это делают:
1. Этические соображения и безопасность: Это главная причина. Создание такого контента, особенно если его можно потенциально использовать для создания изображений без согласия людей (deepfakes), эксплуатации или распространения незаконных материалов (например, с участием несовершеннолетних, что абсолютно недопустимо и уголовно наказуемо), является крайне неэтичным и опасным.
2. Юридические ограничения: Во многих странах существуют строгие законы, касающиеся создания и распространения определенных видов контента категории 18+. Компании не хотят нарушать законодательство или позволять своим пользователям использовать их инструменты для незаконной деятельности.
3. Репутация и общественное восприятие: Компании хотят, чтобы их продукты воспринимались как безопасные, ответственные и полезные инструменты для широкого круга пользователей (художников, дизайнеров, обычных людей для творчества). Ассоциация с генерацией откровенного контента может сильно повредить их репутации и оттолкнуть значительную часть аудитории и инвесторов.
4. Предотвращение злоупотреблений: Ограничения помогают снизить риск использования нейросетей для домогательств, шантажа, создания фейков и других видов злоупотреблений.
Таким образом, это не техническая невозможность самого искусственного интеллекта "понять" или "нарисовать" что-то, а сознательное решение и техническая реализация ограничений, встроенных в модели и сервисы разработчиками для обеспечения безопасности, этичности и соблюдения законов. Они используют фильтры на вводе (запросы пользователей) и на выходе (генерируемые изображения), чтобы блокировать такой контент.
нейросети еще слишком матенькие им нельзя
Ну вот грутсна(