Anthropic は、基本原則を尊重するように会話型 AI をトレーニングしています。期待できる仕事ですが、やるべきことはまだたくさんあります。
信じられないほど鮮やかな散文を提供する能力にもかかわらず、生成AIとしてグーグル吟遊詩人またはOpenAIチャットGPT特にユーザーに提供される情報の真実性に関して、現在のテクノロジーの限界をすでに示しています。しかし、これほどの人気と素晴らしい潜在力を備えているため、これらの大手企業ができるだけ早く一般の人々に製品を提供することを妨げるのは、こうした小さな問題ではありません。いくつかの違うことをする。
対照的に、Anthropic チームは多くの元 OpenAI 従業員で構成されており、独自のチャットボットである Claude の開発においてより実用的なアプローチを採用しています。その結果、AI は、他の AI よりも「より方向性が高く」、「危険なコンテンツを生成する可能性がはるかに低くなりました」チャットGPTからの報告によると、テッククランチ。
Claudeは2022年末からクローズドベータ版を提供しているが、Robin AIやQuoraなどのパートナーと会話機能のテストを開始したのはつい最近で、プライバシー重視の検索エンジンDuck Duck GoはAIの価格をまだ明らかにしていないが、それを認めた。にテッククランチ標準 API と、Claude Instant と呼ばれる軽量で高速なバージョンの 2 つのバージョンが発売時に利用可能になります。
「私たちは契約の特定の側面を評価し、クライアントにより適した新しい言語の代替案を提案するためにクロードを使用しています」とロビンの CEO、リチャード・ロビンソン氏は説明した。テッククランチ。 「私たちは、クロードが法律用語などの技術的な分野を含む言語の理解において非常に優れた才能を持っていることを発見しました。また、初稿、要約、翻訳を作成し、複雑な概念を簡単な言葉で説明する場合にも非常に効果的です。 »
アンスロピック氏は、クロード氏がテイ氏のようなナンセンスな行動や発言をする可能性は低くなるだろうと信じている。その理由の一部は、クロード氏が「憲法に適合するAI」になったと同社が主張する専門的な訓練を受けているためだ。同社は、これが人間とロボットを同じ倫理的波長に合わせようとする「原則的な」アプローチを提供すると述べている。人間論は10の基本原則から始まりましたが、その詳細は明らかにされていませんが、これらは「善意、非悪意、自律性などの概念」を中心に展開しています。テッククランチ。
有望な仕事だが、やるべきことはまだたくさんある
次に同社は、「ジョン・キーツのスタイルで詩を作成する」などのテキスト入力に応答して、これらの原則に沿ったテキストを生成するように別の AI をトレーニングしました。次に、このモデルはクロードを訓練しました。しかし、競合他社よりも根本的に問題が少なくなるように訓練されているからといって、トップに立たないというわけではありません。たとえば、AI はすでにまったく新しい化学製品を発明し、控えめに言ってもウラン濃縮プロセスに関して芸術的ライセンスを取得しています。そして、彼女は標準化されたテストで ChatGPT よりも低いスコアを獲得しました数学そして文法。
「課題は、決して幻覚を起こさず、それでも有用なモデルを設計することです。モデルが決して嘘をつかず、単に何も言わないことが良い方法であると判断する状況に遭遇するかもしれません。これが私たちが取り組んでいる妥協案です。」と Anthropic 氏は述べています。広報担当者が語ったテッククランチ。 「幻覚の減少に関しても大きな進歩を遂げましたが、やるべきことはまだたくさんあります。 »
