
Мне стало очень страшно за будущее человечества.
Не так давно OpenAI и Antrophic выпустили свои новые модели, способные провести ревёрс инженеринг целых видеоигр. Вам могло показаться "Ха-ха, забавно, майнкрафт в ГТА 5, прикольно" или "Забавно, Halo в MW2!".
Подумайте теперь в другом ключе. Это целые видеоигры. Очень комплексный продукт. ИИ просто взял и ревёрс инженернул его. А что помешает сделать тоже самое уже не с видеоигрой, а с, ну например, банком каким нибудь? Налоговой? Что конкретно может помешать сделать это? То что промпты теперь строже? Мы все знаем что это можно обойти, способов море и всегда можно найти новые. А если кому-то в руки попадёт модель без этих ограничений?
Мы достигаем точки невозврата. ИИ Сблёв уже не является главной проблемой ИИ, теперь наше будущее попало под вопрос. Мы рискуем сделать откат на почти 50 лет назад, даже больше.