Викиновости

Ларри Сэнгер: через год или два можем увидеть «убийцу Википедии». Чат-бот сгенерирует энциклопедию больше во много раз и более предвзятую

18 мая 2023 года

В этой статье упоминается Фонд Викимедиа, какой-либо из его проектов или люди, имеющие к ним отношение. Викиновости — один из проектов Фонда Викимедиа.
Сооснователь Википедии, её «самый откровенный критик», считающий, что в Википедии, возникшей в виде «энциклопедии мнений», сильна пропаганда левого истеблишмента и имеет место отход от истинного нейтралитета
Знак «капу» (проход запрещён), табу на Гавайях. «Кто саботировал газопровод Nord Stream», «средние IQ представителей различных рас» или «список тем, которые западные ведущие СМИ избегают обсуждать»?
Всеобщая декларация прав человека гарантировала каждому человеку во всём мире право на свободу мысли, совести, убеждений и на свободное выражение убеждений, включая свободу беспрепятственно придерживаться своих убеждений и свободу искать, получать и распространять информацию и идеи любыми средствами и независимо от государственных границ.

Сооснователь Википедии, философ Ларри Сэнгер считает, что проблема с фейковыми источниками в генеративных текстах скоро решится, но самое страшное в другом. Сэнгер сравнил ухмылки над ответами чат-ботов со смехом над убогими веб-сайтами в 1994 году, когда многие не верили в перспективы интернета из-за его плохого состояния на раннем этапе. Ему очевидны три вещи:

«

1. Энциклопедия, созданная искусственным интеллектом, которая больше Википедии, может быть, на один или два порядка [то есть в десятки или сотни раз], вероятно, появится в течение нескольких лет.

2. В течение 5-10 лет энциклопедия, созданная ИИ, может превзойти любую другую энциклопедию не только по детализации, но и по качеству, особенно если ИИ сможет использовать достаточно большую библиотеку книг и журналов.

3. Такие энциклопедии могут точно отражать любую предвзятость, которую хотели бы иметь их контролёры.		»

Также Сэнгер предполагает, что, скорее всего, только крупнейшие и богатейшие технологические корпорации смогут сделать конкурентоспособных чат-ботов. Чат-боты будут бесплатны для простого использования, но исходный код не будет свободным, многие функции будут платными. И большая часть их бизнес-модели будет основана на управлении населением.

«насколько сильно авторитетный, всегда доступный, интеллектуальный источник информации может влиять на политические взгляды, решения о покупках и другие ваши мнения, которые ваши повелители хотят контролировать.»
«Кто бы ни создал эту энциклопедию с закрытым исходным кодом, сгенерированную искусственным интеллектом, она определённо не будет автономной [то есть не программирующей пользователя, уважающей его свободу]. Она будет использоваться как скальпель, чтобы хирургическим путём удалить и привить убеждения, за которые управляющим языковой модели платят, чтобы они вам навязывали. Возможности пропаганды, которые предвидят наши контролёры истеблишмента, очевидно являются привлекательными; обладание подобной силой должно быть частью того, что движет нынешней гонкой вооружений ИИ. Можно представить, как они жадно облизываются при мысли об изощренности, с которой эта технология может использоваться для тонкого контроля над населением. Больше, чем любая прибыль на горизонте, контроль над наиболее широко используемым двигателем систематической пропаганды был бы чрезвычайно привлекательным.»

Ларри Сэнгер назвал пропаганду ИИ «на стероидах» уникальной и огромной угрозой свободе во всем мире. Технология быстро совершенствуется и на горизонте 5-10 лет превзойдет Википедию и Британнику, а если слова производителей об успехах генеративных ИИ верны — возможно, одного или двух лет.

«Но когда темы волнуют контролеров мыслей, мы можем ожидать, что результаты ИИ будут контролировать, манипулировать пропагандой, вероятно, больше, чем Википедия. В конце концов, чат-ботов с искусственным интеллектом легко заставить замолчать о том, о чем им не следует говорить.»

Сэнгер признаётся, что сам использовал чат-боты, хотя обеспокоен предвзятостью больше многих. Другие люди тоже будут ими пользоваться, если не будет нормального выбора. Он считает, что во время, когда корпорации и правительства стремятся контролировать население, нужно присоединяться к его очередному проекту на этот раз под названием Encyclosphere (Энциклосфера), который является сетью энциклопедий и презентуется как реальная альтернатива «централизованной» Википедии и теперь энциклопедии от ИИ. По его мнению, защитники свободы должны написать свой чат-бот, который бы использовал источники, созданные человеком, уважал свободы и автономию каждого, а не навязывал.

«[Искусственный интеллект] уже очень мощный инструмент, и он будет только развиваться. А власть развращает...и притягивает уже развращенных...и делает их сильнее...»


 См. также: Волшебные аватары Lensa — это часть тренда

Источники править

Комментарии

Викиновости и Wikimedia Foundation не несут ответственности за любые материалы и точки зрения, находящиеся на странице и в разделе комментариев.



Источник — https://ru.wikinews.org/w/index.php?title=Ларри_Сэнгер:_через_год_или_два_можем_увидеть_«убийцу_Википедии»._Чат-бот_сгенерирует_энциклопедию_больше_во_много_раз_и_более_предвзятую&oldid=16586391