アノニマスの見解 Ep.15:”EUNOMIA”又は”私は如何にして心配するのを止めて社会信用システムを愛するようになったか”

EUNOMIAの漏れた情報の完全文書:https://gnujihad.neocities.org/leak/

Hello everyone. And welcome to another episode of “ANONYMOUS NO KENKAI”. And a very exciting episode it is, because we’ve got an insider leak of some interesting info about a project called “EUNOMIA”, in coordination with the Fediverse’s own “Free Speech Axis”.
皆さん、こんにちは。「アノニマスの見解」にようこそ。そして今回はいつもより面白い動画になるでしょう…というのも、我々がFediverseの「言論自由連合」と協力して入手した「EUNOMIA」というプロジェクトについて、インサイダー情報漏れの詳細を公表しますから。

Long time viewers of this series might remember Episode 5, where we talked about Mastodon, GNU Social, and Plemora. In particular, you might remember a man by the name of Gargron, also known as Eugen Rochko. He’s going to be important to this story, so you might want to go watch that episode if you don’t know why he’s important.
このシリーズの長年のファンは「マストドン、GNUソーシャル、Plemora」についての第5話を覚えてるかもしれませんね。特に、「Gargron」(別名Eugen Rochko)という男も思い出すかもしれないですね。彼がこの話にとって重要なので、新登録者はぜひ第5話をご覧下さい。

But first, let’s talk about “Fake News”. Fake News is a really big problem these days, if you listen to media and politicians. Spies, extremists, and scammers are all supposedly using the internet to spread fake stories and trick the public into believing the wrong information.
しかしまずは、フェイクニュースについて語りましょう。マスコミと政治家によれば、フェイクニュースはますます大きな社会問題になっているらしいとのことです。スパイ、過激派、そして詐欺師達はインターネットを使用してデマ情報を拡散して人々を騙そうとしています。

And of course, the same media companies and politicians are ready…eager, even…to offer solutions to the problem. Journalists name and shame online personalities. Silicon Valley companies like Facebook and Twitter routinely engage in purges of “fake news” from their platforms, silencing or even banning accounts that spread it. How exactly they discern fake news from truth remains a mystery, unfortunately…
もちろん、こういうメディア企業や政治家は同時にフェイクニュース問題に対して解決策を提供したがっています。記者はYouTuberを非難しますし、Facebook、TwitterなどのシリコンバレーSNS企業はフェイクニュースを追放して、デマ情報を広めるアカウントもBANして削除しています。デマ情報を認識する方法は残念ながら、未だ謎のままですけれども…

Some governments, notably China, have taken stronger measures. China’s infamous “social credit” system does a lot of things, but apparently one thing that can reduce your national loyalty score is “spreading fake news”…of course, the Chinese government gets to decide whether news is fake or not. The military government in Thailand, meanwhile, has been very active in using its own “Computer Crime Act” to arrest its critics, claiming they spread “false information”.
ある国々、特に中国はフェイクニュースに対しさらに厳しい措置を課しまています。中国の悪名高い社会信用システムには多くの要素がありますが、採点を下がる基準の一つは「フェイクニュースの拡散」のようです。何が「フェイク」かどうかはもちろん、中国政府が決めますね。同時に、タイの軍政府はよく「コンピューター犯罪法律」を使用して批判者を逮捕します、「彼らがデマ情報を広めていた」と公言しながら。

But the civilized nations of the Western world insist that they’re different from their totalitarian counterparts. Their campaign against fake news is sincere, and in the best interests of democracy. Interestingly, though, they have little to say about the fake news they participate in creating. Fake news like the Covington High story, where multiple supposedly reputable American news outlets spent days reporting flat-out lies about a group of high school boys, while Twitter looked the other way as outrage mobs led by celebrities harassed and threatened children. Thankfully the truth was livestreamed, but where was their concern for fake news then?
しかし、西欧諸国が自分達はこれら全体主義国家とは違うと主張しています。彼らはフェイクニュースへの反対運動は民主主義を救うためだと言い張ります。けれども大変興味深いことに、自分が広めているフェイクニュースを見過ごしていますよね。例えば「コビントン・カトリック高校の事件」…アメリカの一流新聞が事実確認せず、何日間も高校生について真っ赤なうそを放送してしまったという事件。そして同時に、Twitterスタッフが気付かぬふりをしながら、コビントン高校生は嫌がらせや死の脅迫を受けていました。幸いなことに事件はたまたまにライブストリーミングされたので事実がやっと明るみに出ましたが、でもそれこそフェイクニュースではないでしょうか?

Then there’s the RussiaGate scandal…two years of politicians and media companies insisting that US President Donald Trump was a secret Russian asset, until an investigation disproved it as conspiratorial nonsense. No matter one’s opinion on the man, these are reckless and irresponsible lies.
次はいわゆる「RussiaGate」スキャンダルについて話しましょう。2年間も、アメリカのマスコミと政治家がトランプ大統領はロシア政府に操られたというデマを広めていましたが、調査当局は結局それは根拠のない主張であると反証しました。トランプ大統領を好むかどうかにもかかわらず、こういう噂を広めるのが事実を誤る重大な落とし穴です。

These are only two examples, but there are more…far too many to go into here. And in none of these cases do the media or politicians admit responsibility. Yet they want to tell us what news is fake or real?
これはほんの数例にしか過ぎないのですが、他にも数え切れないほどあります。マスコミや政治家はこういうフェイクニュースを広めることに対し、全く責任を取らないにもかかわらず、フェイクニュースを決める権利を主張しようとしているのです。

The reality is, no matter where you go, its not uncommon for the authorities to say one thing and do another. And the unilateral solutions they impose always seem to create more problems than they fix.
実は、どこへ行こうが、当局にとって、言っていることとやっていることの違いはありふれたことです。そして当局が一方的に押し付ける解決法はしばしば別の問題を発生させるでしょう。

And that brings us to our main topic, “EUNOMIA”…an EU initiative to create a software solution to solve the fake news problem. …yeah, I think you can see where this is going.
それでは、本題に戻りましょう…EUNOMIA、フェイクニュース問題を解決するために作られたEUのソフトウェア開発プロジェクトです。さて、皆さん。話の落ちどころは既に見えていますよね…

From the European Commission’s own website, they describe EUNOMIA as “a fully decentralised, intermediary-free and open-source solution for addressing three key challenges: which social media user is the original source of a piece of information; how this information has spread and been modified in an information cascade; and how likely it is to be trustworthy…EUNOMIA actively encourages democratic citizen participation in content verification by allowing voting on content trustworthiness and influencing the reputation of content generators and sharers”.
欧州委員会のプロジェクトサイトによれば、「EUNOMIAは3つの主要問題に対処する分散的オープンソースソフトウェアソリューションです。どのSNSユーザーが情報の出所なのか、共有されるにつれて情報はどのように変更されたのか、どうやって情報の信用性を判定するのか、出所の評判や情報の信用性に関する投票を認めることによって、EUNOMIAは民主的な事実確認活動への参加を奨励します。」

In other words, EUNOMIA is going to keep track of who said what, when, and where. It’ll track who shared that information, and with whom. Finally, it’ll host an online popularity contest to decide who’s telling the truth or not, and brand people with a number score based on the results. I think it should be clear how much of a bad idea that is. It sounds worryingly close to Chinese social credit.
つまり、EUNOMIAはユーザーのやり取りを四六時中監視して、誰が誰と情報を共有したかを記録に残します。そしてオンライン人気コンテストによって、一番正直な人々を決めます。さて、ここまでお聞きの皆さんは、問題の兆候が見えるでしょうか?心配になるほど中国の社会信用システムに似ていませんか。

But who cares, right? It’s just the EU, and Facebook and Twitter are already heavily censorsed hellscapes. Well, yeah…about that. Remember when we mentioned Mastodon and Gargron? Guess who’s on the list of contributors to the project…getting paid 63,290 euros to participate? Eugen Rochko, Gargron himself.
でも大した問題ではないでしょう?EUの問題ですし、FacebookやTwitterはすでに監視されてる。いえいえ、実際はその点には面白い話があるのです…動画の冒頭でマストドンとGargronさんについて述べましたよね?6万3千ユーロの引き換えに、誰がEUNOMIAの開発に参加しているのでしょうか?Eugen Rochkoさん、Gargron本人です。

Why would the creator of Mastodon be working on EUNOMIA? Maybe because Mastodon, and the wider Fediverse, is intended to be its testbed. In fact, the EUNOMIA project description itself clearly states that it is “ideal for evaluation on similarly open, decentralised and federated new social media networks”.
マストドンの開発者はEUNOMIAプロジェクトに参加する理由はなぜでしょう?おそらくマストドン、そして全てのFediverse、はEUNOMIAのテストベッド環境になるからです。実はEUNOMIAの情報ページでははっきり説明されています。「同じ分散的連合されたSNSはプロジェクトの評価に理想的です」と書いてあります。

To be clear, the Fediverse…a decentralized federation of alternative social media services…is the place where people go to escape the censorship, authoritarianism, and surveillance of mainstream social media. It’s a place where they can speak freely and tell jokes without fear of being banned, or even arrested. What EUNOMIA proposes is to bring in the worst aspects of both mainstream social media and Chinese style social credit. No surprise it’s so unpopular.
はっきり申しますと、Fediverse(分散的な代替SNSの連合)は主流SNSの検閲、権威主義、そして監視から離れたいわばオアシスと言えます。BANや逮捕に恐れず、自由に話し、冗談を飛ばしする場所です。そしてEUNOMIAプロジェクトは主流SNSの最悪の部分をFediverseに持ち込もうとしている。嫌われているというのも不思議ではありません。

Of course, the creators of EUNOMIA are quick to deny this. The project’s own Mastodon-dot-social account says it will “not in any way involve Mastodon social, and…will not involve anyone without their explicit consent”. All well and good, but it’s worth noting that we have no guarantee that this will always be true, or even if it’s true now.
もちろん、EUNOMIAの開発者は否定します。プロジェクトのマストドンアカウントによれば、EUNOMIAはmastodon.socialと関係ないですし、また同意なしにユーザーを関与させません。それで大丈夫ですと、言うのは簡単ですね。しかしながら約束を破らない保障がありません。

Comparisons to social credit are also denied, since the project claims its purpose is “to assist social media users in determining trustworthiness of information”. In other words, it isn’t a central authority deciding what’s true, it’s just a tool to help other people vote on what they think is true. Personally, I don’t enjoy the idea of crowd-sourced social credit any more than the centralized variety. If anything, the outrage mobs and groupthink we’ve seen on Twitter makes me fear social credit by mob-rule even more.
社会信用システムとの比較も否定しました。プロジェクトの目的は「ユーザーに情報の信頼性を判断できるように支援する」です。つまり中国の一方的なシステムとは違い、単なる信頼性を判定して投票するツールだと言われています。個人的に、最近のTwitter版魔女狩りや大衆迎合主義的な風潮を見ると、クラウドソーシングによる社会信用システムはさらに恐ろしいと思いますが。

But aside from that, there’s no escaping the reality that such a system would necessarily entail tracking and analyzing conversations, necessitating a panopticon-like surveillance of discourse across the Fediverse. Even if they claim that participation is voluntary, once the infrastructure is built, how easy would it be to just expand it after the fact? Or for other people to inherit the project and expand it later? This could especially be worrying to Japanese Fediverse instances, as these software tools will likely be localized and imported by certain characters if they prove successful in the EU.
とはいえ、その話は別にして、このシステムは情報の出所を究明するためなら、Fediverseユーザーのやり取り全てを監視しないといけません。パノプティコンのような監視システムと全く変わりはありません。初めは自主的参加かもしれませんが、インフラは構築されたら将来いつか範囲を広げるのは簡単でしょう。あるいは管理が交代されたら、プロジェクトの方向を変えるかもしれない。日本のFediverseインスタンスにとって特に恐ろしいことではないでしょうか。プロジェクトがEUで上手く行けば、この監視システムは好ましからざる怪人物によってローカライズされ、採用されるかもしれません。

Moreover, the idea of voting or scores to rate trustworthiness implies a system that discourages individuals making their own assessments about the truth, and instead blindly trusting the opinions of the majority. The creation of cliques and groupthink in such a system would be inevitable, and any search for truth would quickly be drowned out.
その上に、投票で情報の信用性を決すること、そして事実を単なる数値スコアのレベルに落とすのは批判的思考の正反対です。そのようなシステムは必然的に派閥根性や集団思考をもたらす。そういう混乱に真実を探すことができなくなります。

Apparently I wasn’t the only one who had these concerns, because somebody inside the EUNOMIA project decided to leak chat logs from their internal discussions. And some of the things they have to say only deepen my concerns.
こういう不安感を持つのは私だけではなさそうです…EUNOMIAプロジェクトのインサイダーが開発者の内部チャットのログをリークしました、そしてログの内容を読むと余計に不安感を感じます。

For one, EUNOMIA will likely involve datamining instances via public APIs. No surprise, given datamining firms like SYNYO GmbH are key members of the project. They claim it will be opt-in and anonymized, but given the volume of data they’d likely need to build their models, its hard to believe that promise will last long. As for anonymisation, studies have shown how easy it is to re-identify users from aggregate datasets.
まず第一に、EUNOMIAはインスタンスの公開APIを使ってデータマイニングを行うそうです。「SYNYO GmbH」というデータマイニング企業がプロジェクトに参加するので、驚くほどではない事実です。収集はオプトインのみ、個人情報は匿名化されると言われますが、統計模型を築くために大量のデータが必要だと思います。自主的参加が足りない場合、その約束を守れるのでしょうか?そして匿名化について、データ匿名性を奪うのは意外と簡単だということを調査は示しています。

Secondly, EUNOMIA appears to be using some very questionable sources as reference for their models…namely the New York Times and Facebook. Remember, the NYT was central to spreading both the Covington High lie and the RussiaGate hoax. And Facebook has repeatedly been exposed as a biased actor in the way it controls how information trends on its platform. Hardly credible experts on identifying fake news when they couldn’t even identify their own.
第二に、EUNOMIAは統計模型を築くには信頼性に疑問のある情報源を利用している。特にNew York TimesとFacebook。忘れないてはなりません、New York Timesはコビントン高校とRussiaGateのデマを広めることに最大の影響を与えました。そしてFacebookがトレンディング・トピックを歪曲していることがすでに発覚しました。自分で作ったフェイクニュースを発見できなければ、情報の信用性を究明する資格があるのでしょうか?

Lastly, they internally refer to criticism of the project as “paranoia”, downplaying the validity of concerns and showing a lack of self-reflection, or even an understanding of why the Fediverse reacts negatively to them.
最後に、内部での会話によればEUNOMIAプロジェクトへの批判は「妄想症」患者の妄想であるかの様に呼ばれ、ものともされていない。彼らには本当のFediverseからの反応は理解できないでしょう。

Bottom line, given the people involved, the histories of behaviour, and the attitudes on display, there are a lot of red flags surrounding the EUNOMIA project. What we can do to avoid it or mitigate the damage it may cause isn’t clear, yet. But identifying the threat is a good first step. The leaked info is linked in the description. I’d also like to make a Japanese translation eventually.
要するに、プロジェクトに参加する人物、そしてその考え方と行動を考慮すると、大きな危険信号であると我々は見えます。その危険性を避けるか軽減できるかまだ分からないが、せめて脅威を理解しておけばいい。漏れた情報の完全文書は動画の説明にリンクされます。いずれ日本語の翻訳版も作りたいと思います。

Fake News does exist, and it can be a problem, but it’s not going to be solved by an app or an algorithm. Technological solutions cannot fix human problems, and trust scores do nothing to encourage critical thought. If the goal of EUNOMIA is to help people determine trustworthiness without defining it, then objective metrics shouldn’t be involved at all, no matter how democratic the process leading up to them. The only thing that can help social media users to seperate fact from fiction is critical thinking, common sense, and personal responsibility when both producing and consuming information. And if they lack those qualities, then no piece of software is going to save them.
フェイクニュースは実際に存在します、そして本当に問題であると我々は考えています。けれども、その問題はアプリや技術によって解決することはできません。技術的な解決策は人間の問題には有効ではない。そして「信用スコア」などは批判的思考を妨害する影響がある。EUNOMIAの目的は本当に「ユーザーに情報の信用性を究明できるように支援する」なら、どんなに民主的であろうとも、投票システムや数値スコアを使うべきではないと思います。誰にだって、批判的思考、常識、そして自己責任から作り話と事実を区別する能力が備わっていると信じています。そういう資質を備えない人間にとって、ソフトウェアはその代わりのものになるわけがない。

To every member of the Fediverse, the answer is clear; Say No to Eunomia. And Eugen…if you really want to make the Fediverse a better place, consider donating your 63,000 euro bribe to a media literacy program instead.
Fediverseのユーザーにとって、たった一つの道しか見えない…EUNOMIAに絶対反対しましょう。そしてEugenさんに一言アドバイスを与えてあげたいと思います。本当にFediverseを良くしたいならば、あの6万3千ユーロの賄賂をメディアリテラシー育成する講座に寄付しなさい。

This was ANONYMOUS NO KENKAI, and until next time…MACHIUKENASAI
これはアノニマスの見解でした、そして次回まで…待ち受けなさい。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です