人工知能の敏感さと深層学習の悪用の可能性を強調するために、科学者は AI を意図的に教育して精神異常者にしました。ノーマンという適切な名前がこれを証言しています。
という質問に対して、ある人工知能彼女はサイコパスになれるでしょうか？”と言われれば、答えはイエスです。実はこれが質問の主題であり、MITが行った実験(マサチューセッツ工科大学) は、この機会のために特別に作成されたプログラムで一連のテストを実行しました。
AIを教育するための暴力的な画像
映画の有名なノーマン・ベイツを記念してノーマンと名付けられました精神病、この人工被験者は実験のためにMITチームによって作成されました。アルフレッド・ヒッチコックが墓に入るのは容易に想像できるが、研究者たちは特に暴力的な画像やビデオを通じてノーマンを教育することに喜びを感じていた。
一見すると不合理に思えるかもしれないこの実験は、AI の動作が取り込まれたデータによって影響を受けるかどうか、そして同じプロセスを使用してどの程度修正できるかを実証することを目的としていました。ロールシャッハ テスト (インクブロット テスト) を実行し、その結果を別の (健全な) AI の結果と比較すると、明らかに違いが観察されます。空に飛行機の跡が見え、ノーマンは車から男が撃たれ転落するのを目撃する…。
ディープラーニングの行き過ぎの問題
実行された実験の最初の部分、つまり教育」暴力的な» ノーマンの精神異常を治すために、科学者たちはインターネット ユーザーにロールシャッハ テストの結果を自分で提供するよう依頼することで事態をさらに進め、ノーマンの精神病を治すことを試みました。
人工知能に関しては、IIM（米国科学研究所）の研究責任者が、インターネットおよびマルチメディア）ジャン＝クロード・ユダンは次のように回想しています。人工知能は、人間の脳の機能、少なくとも意思決定時のロジックを模倣することを目的としています。»。
したがって、AI を教育と意思決定プロセスの対象となる大きなスポンジとみなすことは十分に考えられます。 MIT の科学者によれば、長期的には、この影響は、現在 AI を設計するために広く使用されているプロセスであるディープラーニングからの逸脱の可能性に関して考慮すべき要素であるとのことです。接続されたオブジェクト。
MITチームのメンバーであるイヤド・ラーワン教授は次のように説明しました。「ノーマンの答えが非常に暗いという事実は、機械学習の新しい世界における厳しい現実を示しています。」、追加：「データはアルゴリズムよりも重要です。これは、AI のトレーニングに使用するデータが、AI が世界をどのように認識し、どのように行動するかに反映されるという考えを強調しています。。新しい職業、人工知能心理学者が誕生します!
