ИИ определяет, что мы видим в интернете

Всё большее значение в онлайн-среде имеют невидимые системы ранжирования (присвоение рейтинга), определяющие, какие истории, видео и публикации окажутся вверху списка.

Непрозрачность алгоритмов в социальных сетях, поисковых системах и платформах ИИ (искусственного интеллекта), которые определяют, что показывается, продвигается или исключается, практически не неся ответственности, стала ключевой угрозой для журналистики и доверия аудитории.

Контент, который дольше всего удерживает внимание, усиливается. Контент, вызывающий наиболее сильную дофаминовую реакцию, остается. Все остальное отфильтровывается. Лента новостей — это не зеркало культуры. Это результат работы машины, обученной находить самые слабые места в человеческом внимании и использовать их.

Эта проблема усугубляется растущим распространением низкокачественного и ошибочного контента, созданного ИИ.

В мутном, грязном мире интернета, непонятные алгоритмы определяют то, что вы видите. Как известно, они мало заботятся о достоверности и точности, или основанной на фактах информации, которая необходима обществу для безопасности и процветания.

Растёт недоверие к новостным каналам. С появлением результатов поиска, созданных ИИ, которые отображают информацию «без кликов» недоверие усилилось. ИИ выдают информацию сразу, что, конечно, у многих пользователей вызывает вопрос: «Можно ли этому доверять? Вместе с тем, это снижает трафик на новостные сайты, что приводит к ещё большему сокращению аудитории, возможности подписки и доходы работающих журналистов.

Распространение ИИ привело новостную экосистему к критической точке.

В такой ситуации дезинформация процветает — существует высокий спрос на информацию, но недостаточно проверенных данных.

Только доступный запас качественных новостей и фактов может противодействовать дезинформации.

Законы не успевают за развитием контента, созданного с помощью ИИ, например, дипфейков. Не существует чётких стандартов, позволяющих определить происхождение онлайн-контента, или стандартных рекомендаций по проверке его подлинности, так как многие системы ИИ работают как «чёрные ящики», сложно определить, кто несёт ответственность за допущенные ошибки или предвзятость информации.

Люди не знают, кому можно доверять. В Австралии у пользователей очень низкий уровень уверенности в возможности проверить достоверность информации. Лишь около 40% могут проверить, можно ли доверять веб-сайту или публикации в социальных сетях, и только 43% могут проверить, является ли информация, найденная в интернете, правдивой. Многие австралийцы испытывают трудности с проверкой информации в интернете и не знают, куда обратиться за надёжными источниками.

Когда всё начинает казаться ненадёжным многие пользователи-австралийцы — 69% избегают новостей часто, иногда или время от времени, согласно опросу.

Цифровые платформы являются ненадёжным интерфейсом для распространения новостей. С помощью алгоритмов они принимают невидимые и неподотчётные решения, которые меняют доступ общественности к информации. Выбирая источники информации, эти цифровые посредники могут создавать новых «победителей» и «проигравших», выделяя один контент среди другого, практически не обращая внимания на качество или точность.

Однако у платформ нет стимула объяснять, как работают их алгоритмы, когда они меняются, как происходит приоритетность новостей или как создаётся информация, генерируемая ИИ.

Существует острая необходимость в обеспечении прозрачности алгоритмической обработки контента и обязательной маркировке контента, созданного с использованием ИИ.

Что же делать?

Пять приоритетов вместе могли бы кардинально улучшить информационную экосистему. Три из них конкретно направлены на развитие ИИ.

Необходимо повысить прозрачность со стороны крупных технологических платформ. Пользователи заслуживают знания того, как алгоритмы отбирают новости в поисковых системах, социальных сетях и чат-ботах с ИИ. Также необходимо знать, когда ИИ участвует в создании контента. Чёткие правила маркировки и раскрытия информации помогут восстановить доверие и предоставить пользователям больше контроля.

Компании, занимающиеся ИИ, не должны иметь возможность бесплатно получать журналистские материалы. Лицензионные соглашения, реформа авторского права и ужесточение антимонопольного законодательства могли бы гарантировать, что новостные организации будут получать компенсацию, если их работа используется для обучения инструментов генеративного ИИ.

Следует уделять внимание обучению медиаграмотности и грамотности в области ИИ.

Обучение людей принципам работы алгоритмов и распознаванию предвзятости и дезинформации — один из самых быстрых и экономически эффективных способов повышения квалификации. И это касается не только школ — взрослым также необходимы возможности для постоянного повышения квалификации.

Финансирование журналистики должно отражать её роль как общественного блага. Для обеспечения качества всей новостной экосистемы необходим единый отраслевой кодекс, и отрасль должна работать над этим сообща.

Общество не может позволить себе информационную среду, в которой невидимый искусственный интеллект диктует нам то, что мы видим. Без принятия мер журналистика, защищающая общественные интересы и лежащая в основе демократии и социализации, будет продолжать рушиться.