Чёта я как-то оптимизма не разделяю

По моим постам и подкастам, связанным хоть как-то с темой нейросетей, думаю заметно, что я вообще не «нейро-оптимист».

Меня эта тема пугает. Не из-за гипотетической «замены меня машиной», хоть и это тоже вопрос.

Меня пугает будущее интернета. Верификации информации, доверия к информации.

Параллельно с этим есть огромное количество техно-энтузиастов, которые такие: ВАААУ, мы сделали технологию, которая в прямом эфире может менять лицо на zoom-созвоне, круто же? Смотрите как мы можем!

А нахрена это кому-то надо, кроме как для мошенников?

Генерация видео, которая ещё год назад казалась «ну когда-нибудь» — уже здесь.

Этот ролик я сделал на основе 30-секундного балобольства, которое просто записал вебкамерой. тут даже фон идеально мой скопирован. Движение рук, мимика.

Только говорю это не я, а алгоритм воспроизводит написанный текст. Да, голос чутка подводит, но если захотеть, можно сделать сильно лучше.

Защита? «Запиши видео с паролем». Смешно.

То есть завтра такой аватар может записать аудио или видео родителям и сказать какие-то плохие вещи. Или какой-нибудь умнит сделает «скринкаст зума», где кто-то очень похожий на известного человека предлагает ужасные вещи ребёнку.

Ходи потом, доказывай, что это не ты и вообще это нейросеть. Когда тебя подняли на вилы, оправдываться уже не сильно удобно, а интернет нынче быстро решает, кто прав, а кто нет. Апелляцию подать некуда.

Параллельно с этим поисковая выдача Гугла по картинкам забивается нейро-контентом. Без отметок, что это нейросети.

Я уверен (надеюсь), что о таких штуках переживаю не только я, но и куча умных людей, у которых есть возможность влиять на интернет и законодательство.

С другой стороны, а что вообще с этим можно сделать? Какие могут быть способы защиты?

Зато от слитых «созвонов с пранкерами» можно будет оправдываться по классическому способу «это всё нейросеть, это не я, это фейки».

Пока я могу придумать только одну вещь для безопасности семьи — придумать кодовое слово. Которое нигде и никому публично никогда не говорить.

Как код-пароль, проверочный вопрос в банке.

— Меня сбила машина, срочно нужны деньги.

— Хорошо, какое код-слово?

Ну чисто так можно будет проверять, что перед тобой твой человек. А не нейросеть.