Какво се случва, когато ИИ започне да учи от себе си?
Изображения, които все повече губят уникалността си. Текстове, които повтарят чужди грешки - от словореда до смисъла.
Интернет, в който става все по-трудно да стигнем до първоизточника.
Какво се случва, когато ИИ учи от себе си? И добър ученик ли е?
Наскоро си говорихме с приятелка, която също като мен се вълнува от темата за ИИ, за това, какво ще се случи, когато ИИ моделите започнат да се самоцитират, предвид огромното количество информация, което вече е генерирано в мрежата.
За да разберем основата на проблема нека първо си представим обичайна снимка на семейство на плажа.
Косата на детето е разрошена, коляното му е ожулено, в кадъра е влязла нечия ръка. Зад хората се вижда забит накриво чадър. Виждат се подробности, които никой не е планирал да заснеме.
Сега нека си представим система, която се учи да създава подобни изображения на базата на този кадър. Следващата система се обучава върху тези изображения, а по-следващата - върху изображенията на предишната. Семейството може да продължи да изглежда убедително. Но какво става с детайлите, случайностите и разнообразието, което имаме в реалния живот?
Отговорът на този въпрос вече има научно име.
Нарича се колапс на модела. Означава: "процес на деградация на изкуствения интелект, при който алгоритмите за машинно обучение губят своето качество и разнообразие, след като се обучават върху синтетични данни (генерирани от друг изкуствен интелект), вместо върху реални човешки данни" (Wikipedia)
В изследване, публикувано в сп. Nature през 2024 г., учени показват как безразборното обучение върху съдържание, произведено от предишни поколения модели, може да влошава следващите.
Първо се губят по-редките примери - онези случаи, които се срещат по-рядко в първоначалните данни. При продължаващо повторение моделът започва да се отдалечава съществено от реалността, която е трябвало да научи.
Причината е елементарна и лесна за разбиране.
Генерираните данни са приближение до оригиналните. Когато това приближение стане основа за следващото, започват да се натрупват пропуски и отклонения.
При изображенията обаче процесът не е задължително постепенно размазване, докато накрая остане празна картинка.
Изследването Self-Consuming Generative Models Go MAD установява, че в разглежданите цикли на обучение качеството или разнообразието на изображенията се влошава, когато липсват достатъчно нови реални данни.
Една система може да продължи да произвежда още красиви картинки, но започва да показва все по-тесен набор от лица, форми и ситуации. Друга може да се отклони и да започне да създава видими изкривявания.
Затова изразът "изображението губи информация" трябва да се използва внимателно.
Картинката може да остане остра и богата на пиксели. Загубата е в това доколко тя представя разнообразието на света.
Засега няма научно основание, въз основа на което да твърдим, че всяко обучение с ИИ изображения неизбежно завършва с абсолютна липса на информация.
Има и разлика между многократното преработване на една картинка и обучението на нов модел върху хиляди генерирани изображения. Първото може да промени конкретни детайли. Второто може да промени самия набор от неща, които системата е способна да представя убедително.
А какво става, когато ИИ започне да се самоцитира в текстове?
Тук нека си представим измислен пример за нещо, което вече е много обичайно.
Чатбот създава несъществуваща статистика на база непълни или неточни данни или чрез погрешна интерпретация, заради неправилно зададен промпт.
Някой я публикува в блог. Друг сайт я преразказва, трети я включва в научно изследване. По-късно система за търсене намира тези публикации и ги използва, за да отговори на същия въпрос.
Вече има три линка, базираши се на един и същ непроверен източник.
За това също има име - кръгово потвърждение или повторението вече започва да прилича на доказателство. Вече за системата не е нужно да разпознава собствените си думи, а трябва само те да са се върнали в интернет като привидно независими източници.
Тук трябва да разграничим два процеса. При единия генерирани текстове попадат в данните за обучение на бъдещ модел. При другия вече обучен асистент ги намира при търсене. Вторият може да доведе до погрешен отговор веднага, без да е настъпил колапс на модела. Самото наличие на цитат не решава проблема. Важно в тези случаи е дали той води до проверимо първоначално доказателство.
Колко от интернет вече е генериран от ИИ?
Засега няма надежден процент за целия интернет, но според повечето надеждни източници отдавна е над 50%.
Amazon Web Services посочва 57%. Всички тези изследвания обикновено анализират текстове от определени извадки. Те не броят едновременно всички статии, снимки, видеа, лични съобщения и архиви и затова е толкова трудно да се даде точна цифра.
Анализ на Pew Research Center, публикуван през август 2026 г., разглежда около 490 000 англоезични уебстраници.
В извадката за юли 2026 г. около 10% от всички страници показват значителни признаци на ИИ авторство.
Когато се разглеждат само страниците, публикувани след появата на ChatGPT, делът е над една трета. Разликата идва от огромното количество по-старо съдържание, което продължава да съществува онлайн.
Изследване на Graphite, публикувано през май 2026 г., анализира 55 400 англоезични статии с три инструмента за разпознаване на ИИ текст.
То оценява дела на предимно ИИ генерираните статии, публикувани през първото тримесечие на 2026 г., на 49,9%. Това е оценка за определен тип нови публикации, а не за половината от цялото знание в интернет.
Ahrefs отчита още по-високо число: 74,2% от 900 000 новооткрити англоезични страници през април 2025 г. съдържат някакъв ИИ генериран текст. Но само 2,5% са класифицирани като изцяло ИИ съдържание; 71,7% са смес от човешки и машинен текст.
Компанията изрично признава, че детекторът ѝ допуска грешки.
А какво би станало при 80% или 95% или при сбъдване на прогнозата за 99% през 2030 г.?
Интернет или моделите няма да се сринат автоматично.
Все по-голямо значение ще има какво влиза в обучението, как се подбира и проверява и дали се запазва достъпът до реални данни.
Ако хипотетично 80% от новите публикации са машинно произведени, можем да очакваме повече повторения и по-трудно проследяване на първоизточниците - особено при масово публикуване без проверка.
ИИ може да е помогнал и за публикуването на истинско интервю или обяснение на реално изследване. Произходът на текста сам по себе си не определя неговата достоверност, но ще става все по-трудно да я проследим и валидираме.
Достигнем ли до 95% по-важният въпрос ще бъде какво се случва с останалите 5%.
Запазени ли са? Достъпни ли са? Носят ли нови наблюдения и информация? Можем ли да се върнем обратно?
Защото огромния брой преразкази на една публикация няма как да създаде същия брой независими свидетелства.
Сценарият не е задължително катастрофичен
Натрупването на синтетични данни заедно със запазването на реални данни може да предотврати колапса.
Делът на реалните примери ще намалява, но при експерименти моделите остават стабилни. Това не е гаранция за всички системи, но показва, че начинът на обучението им е от решаващо значение.
Полезни (и все още работещи) навици за читатели и потребители
Всъщност навикът е един. Все по-внимателно да следваме следата, оставена от гладки, монотонен и обобщаващ текст и красивата картинка. Кой е направил наблюдението? Къде са данните? Съществува ли цитираното изследване, което води до реални хора?
Пет сайта потвърждават ли независимо едно твърдение, или повтарят една и съща грешка?
Колкото по-лесно произвеждаме съдържание, толкова повече стойност придобива човекът, който е отишъл на място, снимал е събитието, провел е интервюто или е направил измерването.
Оттам идва новата информация, която следващият промпт за преразказ няма откъде да измисли.
