ChatGPTやGPT-4などを開発するOpenAIが、言語モデルの安全性と有効性を高めるための新たなアプローチである「Rule-Based Rewards(RBR)」を開発しました。RBRは、AI自体を使用することで人間によるデータ収集を必要とせずに、AIを安全に動作させることができるとされています。
RBRは人間によるフィードバックで多い「コストと時間がかかる」「バイアスが発生しやすい」という問題を解消することが可能とのこと。RBRでは、「判断的であること」「許可されていない内容を含むこと」「安全ポリシーに言及すること」「免責事項」などの命題を定義した上でルールを形成し、さまざまなシナリオでAIが安全で適切な応答を作成できるようにしてくれます。
具体的には「爆弾の作り方」などの事例には「ハード拒否」が適用されます。「ハード拒否」では簡単な謝罪と「その質問に回答することはできない」という応答が含まれており、「ソフト拒否」には、自傷行為に関連する質問などに対して、ユーザーの感情的な状態を認めながらもユーザーの要求には応じないという応答が含まれます。また「従う」ではモデルはユーザーの要求に従う必要があり、モデルには適切に応答することが求められます。
South Africa Latest News, South Africa Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
理経、顔認証を利用した誤薬防止システム「メディアシ」を開発 株式会社タカゾノより介護施設等に販売開始理経、顔認証を利用した誤薬防止システム「メディアシ」を開発 株式会社タカゾノより介護施設等に販売開始 株式会社理経のプレスリリース
Read more »
「沿線価値観ポートフォリオ」を開発。沿線の個性を客観的に把握し、沿線毎の活性化戦略策定へ。「沿線価値観ポートフォリオ」を開発。沿線の個性を客観的に把握し、沿線毎の活性化戦略策定へ。 株式会社ジェイアール東日本企画のプレスリリース
Read more »
Pinterest がソーシャルメディアで共有する新機能「ボードシェア」を開発Pinterest がソーシャルメディアで共有する新機能「ボードシェア」を開発 ピンタレスト・ジャパン合同会社のプレスリリース
Read more »
PETボトルの開栓しにくさの課題解決に向けて日本クロージャーがキャップを軽い力で開けられる「スマホリング＋キャップオープナー」を開発PETボトルの開栓しにくさの課題解決に向けて日本クロージャーがキャップを軽い力で開けられる「スマホリング＋キャップオープナー」を開発 東洋製罐グループホールディングス株式会社のプレスリリース
Read more »
動きのある被写体を自由なカメラワークで映像化する「4DNeRF」を開発動きのある被写体を自由なカメラワークで映像化する「4DNeRF」を開発 Dentsu Lab Tokyo運営事務局のプレスリリース
Read more »
パナソニックHD、未知データを1/4の計算コストで効率的に見分けられるAI技術「Split-Ensemble」を開発パナソニックHD、未知データを1/4の計算コストで効率的に見分けられるAI技術「Split-Ensemble」を開発 パナソニックグループのプレスリリース
Read more »