Мария Реса на Cannes Lions за опасностите от персонализацията

Обещанието на технологичната индустрия за персонализация подхранва социалното разделение, а AI допълнително ще влоши нещата. Това е мрачната перспектива на Мария Реса, съосновател на Rappler, лауреат на Нобелова награда за мир и тазгодишния носител на "Лъвско сърце" в Кан.

Персонализацията е „това, което разкъсва нашата споделена реалност“, казва тя. Персонализирането в социалните медии може да звучи добре, но „ако всеки от нас в тази зала получи своя собствена персонализирана реалност … тази зала ще заприлича на лудница“.

Към това се добавя и развитието на „икономиката на възмущението“, при което човешките страхове се използват като оръжие, каращо потребителите на социалните медии да скролират без прекъсване и става все по-лесно да се разпространят гняв и омраза. Това се подпомага и от AI, способен да рециклира все по-„ниско качествен интернет“.

„Създава се емоционална зараза“, казва Реса. „Преди ерата на технологиите рекламната индустрия беше най-добрата в разбирането на човешките емоции, за да може да ги използва за подтикване към действие. Сега технологиите са над всичко и това е очевидно."

Два дни по-рано в Кан Илон Мъск от X говори за „нов модел на новини“, базиран на използването на AI, за да позволи „обединяване в реално време на колективната мъдрост на десетки милиони хора“.

Реса коментира по този повод, че е шокирана „от наивността и липсата на разбиране какво всъщност е журналистиката“ – обобщаването на туитове не е пример за отговорно създадена информация, отбелязва тя. Плюс това, добавя тя, „Мъдростта на тълпите“ от Джеймс Суровиецки изброява пет неща необходими, за да се случи мъдростта на тълпите, но „X няма три от петте и те са критични... това, което се формира в X често е тълпа, социалната тълпа”.

А що се отнася до аргумента на Мъск за свободата на словото, „това не е въпрос на свобода на словото“, казва Реса, „това е въпрос на разпространение. Алгоритмите са там, за да ни карат да потребяваме все повече и повече съдържание – кой казва, че това е единственият начин, по който интернет трябва да съществува?“

Трябва да разберем тази технология, твърди тя. „Не трябва всичко да се оставя в ръцете само на инженери.“ (Тя също така съветва рекламодателите да внимават с показателите, предоставени от платформите. „Те оценяват собственото си представяне, така че бъдете внимателни и мислете средносрочно.“)

Мария Реса завършва с няколко призива към рекламодателите:

Спрете следенето на хората за печалба. „Вие сте могъщи“, казва тя на публиката в Кан. „Създайте си свои собствени системи за разпространение на информация.“

Спрете създаването на изключения онлайн. „Ако сте жена, LGBTQ+, кафява, черна или от глобалния юг, вие сте маргинализирани в реалния свят, вие сте допълнително маргинализирани и онлайн.“

Журналистиката трябва да бъде противоотрова срещу тиранията. „Ако журналистиката умре, ако никой не потърси отговорност от властта, то всеки от нас може да е следващия, за когото ще дойдат и няма да има кой да ни защити.“