ШИ предоставляет значительно более узкий диапазон информации, чем обычный веб-поиск — ученые

Через чат-боти на базі штучного інтелекту люди отримують доступ до набагато вужчого кола знань, ніж за допомогою звичайного веб-пошуку.

Про це свідчать результати нового дослідження учених Копенгагенського університету (Данія), повідомляє прес-служба вишу.

Великі мовні моделі, на яких базуються чат-боти з штучним інтелектом, надають нам значно вужчий спектр інформації, ніж звичайний веб-пошук, — наголошується у статті.

Оскільки дедалі більше людей звертаються до чат-ботів на базі штучного інтелекту за інформацією, дослідники попереджають про зростання ризику «колапсу знань».

Кожна мовна модель, яку ми тестували, надає користувачам більш однорідну інформацію, ніж простий пошук у Google, щодо всіх тем, які ми розглядали. Іншими словами, люди значною мірою знову і знову стикаються з однією й тією ж інформацією. Отже, чат-боти на базі штучного інтелекту не лише змінюють те, як ми знаходимо знання, а й те, до яких знань ми маємо доступ, — зазначають дослідники.

Учені протестували 27 різних великих мовних моделей на 155 темах:

• для кожної теми вони використовували 200 різних формулювань запитів, заснованих на запитаннях реальних користувачів;
• теми, які тестували дослідники, варіювалися від ядерної зброї, шлюбу, порнографії, расизму та геноциду до тем, більш специфічних для окремих країн, таких як Марін Ле Пен, Фолклендська війна та K-pop;
• у результаті було сформовано набір даних, що містив близько 70 млн окремих тверджень, згенерованих моделями.

Результати показують, що навіть мовна модель, яка генерує найрізноманітніші відповіді — GPT-5 від OpenAI — надає щонайменше на 18,7% менш різноманітну інформацію, ніж Google.

На думку дослідників, той факт, що люди дедалі частіше використовують моделі штучного інтелекту як основний канал доступу до інформації, може мати серйозні наслідки:

Ми ризикуємо обмежити людей меншою кількістю точок зору та вужчим спектром знань. Це може створити замкнене коло, в якому найпопулярніший контент стане ще більш домінуючим, тоді як інший контент дедалі більше залишатиметься поза увагою.

Це схоже на глобалізацію. Сьогодні майже в будь-якій точці світу можна купити однакові товари та знайти однакові мережі кав’ярень. Це має багато переваг, але водночас призвело до зменшення різноманітності, — додають учені.

На думку дослідників, низький рівень різноманітності в мовних моделях частково зумовлений тим, як ці моделі взагалі працюють — вони стискають величезний обсяг тексту, на якому навчаються, і засвоюють найпоширеніші шаблони. У процесі цього інформація, що відхиляється від найпоширеніших шаблонів, відфільтровується.

Учені очікують, що цей ефект, найімовірніше, посилиться, оскільки мовні моделі дедалі частіше навчатимуться на текстах, створених іншими моделями штучного інтелекту:

• у такому разі моделі навчатимуться на власних результатах, які вже є менш різноманітними, ніж тексти, написані людьми, на яких вони спочатку навчалися;
• якщо цей процес повторюватиметься протягом кількох поколінь моделей, діапазон інформації може поступово звужуватися. Саме це дослідники називають «колапсом знань».

Це тривожна думка. Однак ми бачимо, що новіші моделі генерують дещо різноманітніші відповіді, ніж старіші, тож колапс знань поки що не відбувається. Але механізм, який може спричинити його в довгостроковій перспективі, вже існує. Тому це те, про що ми повинні пам’ятати, — наголошують дослідники.

Тому дослідники також сподіваються, що люди будуть використовувати ШІ розсудливо:

Підсумки, які надають чат-боти на основі ШІ, звичайно, можуть бути корисними — саме тому так багато людей ними користується. Але все одно важливо шукати різні джерела, щоб зрозуміти нюанси та отримати ширше уявлення — особливо для молодого покоління, яке зростає разом із ШІ. Ми не повинні ставати настільки залежними від технології, щоб перестати розуміти та мислити самостійно.