Потенциално може да намали способността ни самостоятелно да разпознаваме дезинформация
Проучване: Прекомерната употреба на AI чатботове отслабва критичното мислене
Ново проучване на Масачузетския технологичен институт (MIT) е поредното изследване, което установява, че прекаленото разчитане на чатботове може да отслаби уменията за критично мислене и потенциално да намали способността ни самостоятелно да разпознаваме дезинформация.
AI става все по-полезен, но и по-рисков
С развитието и по-широката достъпност на инструментите с изкуствен интелект манипулираните изображения и подвеждащите заглавия стават все по-често срещани, предаде The Guardian (Гардиън).
AI може да бъде част от решението и вече е доказал своята полезност при откриването на фалшиво съдържание. Новото изследване обаче показва, че използването му по този начин има своята цена.
Според учените прекомерната зависимост от AI при определянето на това кое е достоверно в интернет може да затрудни хората да правят подобни преценки самостоятелно.
Още по темата
Как е проведено изследването
В рамките на четириседмичното проучване, публикувано през април, изследователите проследяват 67 участници. Те получават задача да определят дали различни комбинации от новинарски заглавия и изображения са истински или фалшиви.
Резултатите показват, че AI асистенти като ChatGPT и Claude действително помагат за разпознаването на фалшиви новини. Когато обаче участниците започват да разчитат твърде много на тях, способността им сами да откриват дезинформация се влошава.
AI търси верния отговор, а не развива мисленето
Изследователите установяват още, че когато трябва да се прецени дали дадени новинарски заглавия или изображения са истински, AI системите често се фокусират върху предоставянето на точен отговор, вместо върху изграждането на умения за самостоятелно мислене.
Още по темата
Според авторите на проучването тази зависимост може да доведе до по-слаба способност за преценка в дългосрочен план.
„Когато взаимодействаме с AI, имаме усещането, че ставаме по-добри в определени задачи, но вече има достатъчно изследвания, които показват, че това не винаги е така“, казва докторантът в MIT и съавтор на изследването Анку Рани.
Какво са правили участниците
По време на едномесечното проучване участниците отговарят на въпроси, свързани с фалшиви новини и изображения, както със, така и без помощта на AI асистент, базиран на GPT-4o и интегриран с Google Search.
Чатботът е можел да насочва потребителите към конкретни детайли, които да проверят. В един от примерите AI съветва участник да разгледа по-внимателно полицейска значка в изображение, което впоследствие се оказва фалшифицирано.
Още по темата
По-добри резултати днес, по-слаби умения утре
Авторите оценяват както полезността на AI при вземането на правилни решения, така и промяната в способността на участниците да правят самостоятелни оценки с течение на времето.
Те откриват ясен компромис. Изкуственият интелект помага на участниците по-точно да различават истинското от фалшивото, като увеличава вероятността за правилен отговор с 21%.
В същото време представянето им без помощта на AI при анализ на нови изображения се влошава с 15,3% до четвъртата седмица на експеримента.
„Тези резултати показват, че макар AI да може да помогне в краткосрочен план, в крайна сметка той може да отслаби способността за разпознаване на дезинформация в дългосрочен план“, заключава проучването.
Снимка: Magnific
Тагове: