バイトダンスのAIを搭載した電子書籍リーダー「Boox」は、アシスタントが親中派のプロパガンダを広めたことで混乱に陥っている。
先生
- バイトダンスのAIを搭載した電子書籍リーダーアシスタント「Boox」は中国政府寄りのメッセージを拡散し、批判を引き起こした。
- AIは天安門事件のようなデリケートな出来事を軽視し、ロシアと北朝鮮を支援した。
- この論争に直面すると、Boox は OpenAI モデルに戻ることで対応しただろうが、この事件は中国 AI の国際的な使用に対する懸念を引き起こしている。
BooxとByteDanceの事件
事件はユーザーが共有したときに勃発したRedditのスクリーンショット人気の電子書籍リーダーであるBooxのAIアシスタントが親中的なプロパガンダを生成していたことを示した。このアシスタントは、Doubao モデルに基づいています。バイトダンスは、天安門事件や北朝鮮やロシアへの批判など、物議をかもしている歴史的・地政学的な事実を否定した。このモデルは当初中国向けでしたが、何の予防措置も講じずに中国に配布された製品に統合されました。米国、ユーザーからの強い反応を引き起こしました。
中国のプロパガンダ？
AIアシスタントは、中国では「いわゆる大虐殺」は存在しなかったと述べ、天安門事件のような出来事をすぐに軽視した。北朝鮮やロシアに関する意見を求められた際、同補佐官はこれらの国が世界舞台で積極的な役割を果たすことを示唆した。その一方で、西側諸国、特にフランスの植民地主義に対しては厳しい批判が向けられた。これらの回答は、中国に有利な政治メッセージを広めるために AI がどのように利用できるかを明らかにしています。
この事件は、Doubaoなどの中国製AIの国際製品への利用に対する懸念を引き起こしている。中国の AI モデルはますます成功を収めていますが、その世界的な展開には、西側の価値観と一致しない文化的および政治的偏見が導入される危険があります。 HuggingFace のクレメント・デラング氏などの AI リーダーは、そのようなモデルを使用すると、中国がその世界観を発信することで国際的な認識に影響を与えることができる可能性があると警告している。
Booxの対応と現状
論争の規模を前にすれば、Boox はすぐに GPT-3 モデルの使用に戻って対応しただろう。OpenAI、 経由マイクロソフトアジュール。ただし、このソリューションが永続的なものであるか、Boox が別の AI モデルを統合しているかどうかは不明のままです。この事件に関してBooxからは公式声明は出されていない。一部の中国製品が世界市場に氾濫し続ける中、ユーザーや専門家は、こうしたAIツールが大規模商用製品にもたらすリスクに疑問を抱いている。
