Обучение нейросетей под угрозой

😱 Эксперты исследовательской компании Epoch AI проанализировали тенденции создания текстов людьми и пришли к выводу, что кризис в виде нехватки уникальной текстовой информации для обучения нейросетей наступит где-то в 2026–2032 гг.

🙄 Уже сейчас OpenAI и Google рассматривают возможность обучения нейросетей с помощью данных, этими же нейросетями и сгенерированных. Однако исследователи из Оксфорда и Кембриджа считают, что такой способ быстро приведет к деградации больших языковых моделей.

🤓 Вспомним, что первая компьютерная модель нейросети появилась в 1958 г. благодаря нейрофизиологу Фрэнку Розенблатту. Уже тогда ученые предпринимали попытки разработки алгоритмов для обучения нейросетей, однако уделять этому больше внимания стали только в 2010-х гг. Апогей же обучения нейросетей пришелся на 2023 г., ведь в конце 2022 г. OpenAI представила миру ChatGPT.

🙊 Получается, что за последние пару лет мы практически полностью «скормили» нейросетям информацию в виде книг, статей, инструкций, документов и других текстов, которые люди создавали с того момента, как научились писать?..