生成 AI の企業使用ポリシーを開発するための 6 つのベスト プラクティス
ジェネレーティブ AI は、教師なしおよび半教師ありのアルゴリズムを使用して既存の素材 (テキスト、オーディオ、ビデオ、画像、コードなど) からデータを生成し、新しいものを生成する最近注目されている AI テクノロジーです。コンテンツ。この分野の AI の使用は爆発的に増加しており、組織は生成 AI を使用して、顧客へのサービス向上、既存データの活用、業務効率の向上、その他多くの用途に活用しています。
しかし、他の新興テクノロジーと同様、生成 AI にも重大なリスクと課題がないわけではありません。 Salesforce が上級 IT リーダーを対象に実施した最近の調査によると、回答者の 79% が生成 AI テクノロジーにはセキュリティ リスクがある可能性があると考えており、回答者の 73% は生成 AI に偏りがある可能性を懸念しており、回答者の 59% は生成 AI の成果を信じているとのことです。は不正確です。さらに、特に外部で使用される生成 AI によって生成されたコンテンツが本物で正確である場合、コンテンツが著作権で保護されている場合、または競合他社からのものである場合には、法的問題を考慮する必要があります。
たとえば、ChatGPT 自体は次のように通知します。「私の応答は、大規模なテキスト データセットから学習したパターンと相関関係に基づいて生成されており、データセット内のすべての引用ソースが正確であることを検証する能力はありません」
法的リスクだけでも広範囲に及びます。非営利の Tech Policy Press 組織によると、これらのリスクには、契約、サイバーセキュリティ、データプライバシー、欺瞞的な取引慣行、差別、偽情報、倫理、知識リスクが含まれます。タイトルと検証に関連します。
実際、あなたの組織ではすでに多くの従業員が生成 AI の使用をテストしている可能性があり、この活動が実験から実生活に移行するにつれて、意図しない結果が発生する前に積極的な措置を講じることが重要です。
Google の首席意思決定科学者である Cassie Kozyrkov 氏は、「AI が生成したコードが機能する場合、それは非常に高レベルです。しかし、常に機能するとは限らないため、他の重要なコードにコピー アンド ペーストする前に、
企業の使用ポリシーと関連トレーニングは、従業員がこのテクノロジーのリスクと落とし穴の一部を理解し、理解するのに役立つルールと推奨事項を提供するのに役立ちます。このテクノロジーを最大限に活用し、組織をリスクにさらすことなくビジネス価値を最大化する方法。
これを念頭に置いて、企業における生成 AI の使用に関するポリシーを作成するための 6 つのベスト プラクティスをここに示します。
ポリシーの範囲を決定する – 企業が使用ポリシーを作成するための最初のステップは、その範囲を検討することです。たとえば、これはあらゆる形式の AI をカバーするのでしょうか、それとも生成型 AI のみをカバーするのでしょうか?生成 AI のみをターゲットにすることは、他の多数の AI テクノロジーに影響を与えることなく、ChatGPT を含む大規模な言語モデルに対処できるため、有用なアプローチとなる可能性があります。より広範な領域に対する AI ガバナンス ポリシーをどのように確立するかは別の問題であり、オンラインにはそのようなリソースが何百もあります。
組織全体のすべての関係者を巻き込みます。これには、人事、法務、営業、マーケティング、事業開発、運営、IT が含まれる場合があります。各チームは異なる目的を持っている可能性があり、コンテンツの使用方法または悪用方法が異なる結果をもたらす可能性があります。 IT チームとイノベーション チームの関与は、このポリシーがリスク管理の観点から開発された単なる制約ではなく、ビジネス リスクを管理しながら生産性とビジネス上のメリットを最大化するように設計されたバランスのとれた一連の推奨事項であることを示しています。
生成 AI の現在および将来の用途を検討する - すべての関係者と協力して、現在使用されているすべての内部および外部のユース ケースと、将来のユース ケースのシナリオを項目化します。政策開発に情報を提供し、関連分野が確実にカバーされるようにするのに役立ちます。たとえば、提案チーム (請負業者を含む) が生成的な AI 製図コンテンツを実験したり、製品チームが創造的なマーケティング コンテンツを生成したりしているのを見たことがある場合は、他の人の知的財産を侵害する可能性のある出力が後続の影響を与える可能性があることを知っているでしょう。知的財産のリスク。
絶え間ない進化の状態 - 企業の使用ポリシーを策定するときは、システムに入る情報、生成 AI システムの使用方法、およびシステムから得られるもの 出力された情報がその後どのように使用されるか。内部および外部のユースケース、およびその間のすべてのユースケースに焦点を当てます。この措置は、AI が生成したすべてのコンテンツにラベルを付けることを義務付けることで、そのコンテンツが外部で使用するために誤って再利用されることを防止し、それによって透明性を確保し、内部使用であっても人間が生成したコンテンツとの混同を回避するのに役立つ可能性があります。検証なしに真実かつ正確であること。
組織全体で広く共有する - ポリシーはすぐに忘れられたり、読まれなかったりすることが多いため、ポリシーに関する適切なトレーニングと教育を提供することが重要です。これには、トレーニング ビデオの制作やライブ セッションの主催などが含まれます。たとえば、IT、イノベーション、法務、マーケティング、提案チーム、またはその他の関連チームの代表者とのライブ Q&A セッションは、従業員が将来の機会と課題を理解するのに役立ちます。例として引用できる重大な訴訟が発生した場合など、聴衆をその状況に陥らせるのに役立つ例をたくさん含めるようにしてください。
文書の動的更新 - すべてのポリシー文書と同様に、新しい用途、外部市場の状況、開発要件に応じて、適切なペースで文書を動的に更新し続ける必要があります。 。すべての利害関係者にポリシーに「承認」してもらうか、CEO が署名した既存のポリシーマニュアルにポリシーを組み込むことは、これらのポリシーが上級レベルの承認を得ており、組織にとって重要であることを示します。ポリシーは、生成 AI や AI テクノロジー、テクノロジー ガバナンス全般など、より広範なガバナンス アプローチの 1 つのコンポーネントにすぎない必要があります。
これは法的なアドバイスではないため、法務部門と人事部門が率先してポリシーを承認し、周知する必要があります。しかし、これがいくつかの参考アイデアになれば幸いです。 10 年前の企業ソーシャル メディア ポリシーと同様に、今これに時間を費やしておくことは、今後数年間での驚きや変化するリスクを軽減するのに役立ちます。
以上が生成 AI の企業使用ポリシーを開発するための 6 つのベスト プラクティスの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック

従来のコンピューティングを超える能力を備えているだけでなく、より低コストでより効率的なパフォーマンスを実現する人工知能モデルを想像してみてください。これは SF ではありません。世界で最も強力なオープンソース MoE モデルである DeepSeek-V2[1] が登場しました。 DeepSeek-V2 は、経済的なトレーニングと効率的な推論の特徴を備えた強力な専門家混合 (MoE) 言語モデルです。これは 236B のパラメータで構成されており、そのうち 21B は各マーカーをアクティブにするために使用されます。 DeepSeek67B と比較して、DeepSeek-V2 はパフォーマンスが優れていると同時に、トレーニング コストを 42.5% 節約し、KV キャッシュを 93.3% 削減し、最大生成スループットを 5.76 倍に高めます。 DeepSeek は一般的な人工知能を研究する会社です

生成 AI は、テキスト、画像、音声、合成データなどのさまざまな種類のコンテンツを生成できる人間の人工知能テクノロジーの一種です。では、人工知能とは何でしょうか?人工知能と機械学習の違いは何ですか?人工知能は、コンピューター サイエンスの一分野であり、自律的に推論し、学習し、アクションを実行できるシステムであるインテリジェント エージェントの作成を研究する学問です。人工知能の核心は、人間のように考え、人間のように行動する機械を構築する理論と方法に関係しています。この分野では、機械学習 ML は人工知能の分野です。入力データに基づいてモデルをトレーニングするプログラムまたはシステムです。トレーニングされたモデルは、モデルがトレーニングされた統合データから派生した新しいデータまたは未確認のデータから有用な予測を行うことができます。

人型ロボット「アメカ」が第二世代にバージョンアップ!最近、世界移動通信会議 MWC2024 に、世界最先端のロボット Ameca が再び登場しました。会場周辺ではアメカに多くの観客が集まった。 GPT-4 の恩恵により、Ameca はさまざまな問題にリアルタイムで対応できます。 「ダンスをしましょう。」感情があるかどうか尋ねると、アメカさんは非常に本物そっくりの一連の表情で答えました。ほんの数日前、Ameca を支援する英国のロボット企業である EngineeredArts は、チームの最新の開発結果をデモンストレーションしたばかりです。ビデオでは、ロボット Ameca は視覚機能を備えており、部屋全体と特定のオブジェクトを見て説明することができます。最も驚くべきことは、彼女は次のこともできるということです。

Llama3 に関しては、新しいテスト結果が発表されました。大規模モデル評価コミュニティ LMSYS は、Llama3 が 5 位にランクされ、英語カテゴリでは GPT-4 と同率 1 位にランクされました。このリストは他のベンチマークとは異なり、モデル間の 1 対 1 の戦いに基づいており、ネットワーク全体の評価者が独自の提案とスコアを作成します。最終的に、Llama3 がリストの 5 位にランクされ、GPT-4 と Claude3 Super Cup Opus の 3 つの異なるバージョンが続きました。英国のシングルリストでは、Llama3 がクロードを追い抜き、GPT-4 と並びました。この結果について、Meta の主任科学者 LeCun 氏は非常に喜び、リツイートし、

ボリュームはクレイジー、ボリュームはクレイジー、そして大きなモデルがまた変わりました。たった今、世界で最も強力な AI モデルが一夜にして交代し、GPT-4 が祭壇から引き抜かれました。 Anthropic が Claude3 シリーズの最新モデルをリリースしました 一言評価: GPT-4 を本当に粉砕します!マルチモーダルと言語能力の指標に関しては、Claude3 が勝ちます。 Anthropic 氏の言葉を借りれば、Claude3 シリーズ モデルは、推論、数学、コーディング、多言語理解、視覚において新たな業界のベンチマークを設定しました。 Anthropic は、セキュリティ概念の違いを理由に OpenAI から「離反」した従業員によって設立された新興企業であり、同社の製品は繰り返し OpenAI に大きな打撃を与えてきました。今回、Claude3は大きな手術まで受けました。

市場調査会社オムディアの新しいレポートによると、生成人工知能(GenAI)は2023年までに魅力的な技術トレンドとなり、教育を含む企業や個人に重要な応用をもたらすと予想されている。通信分野では、GenAI のユース ケースは主に、パーソナライズされたマーケティング コンテンツの配信や、顧客エクスペリエンスを向上させるためのより洗練された仮想アシスタントのサポートに焦点を当てています。ネットワーク運用における生成 AI の適用は明らかではありませんが、EnterpriseWeb は興味深いコンセプトを開発しました。現場での生成 AI の可能性、ネットワーク オートメーションにおける生成 AI の機能と限界の実証 ネットワーク運用における生成 AI の初期の応用例の 1 つは、ネットワーク要素のインストールを支援するエンジニアリング マニュアルに代わる対話型ガイダンスの使用でした。

1 分以内、わずか 20 ステップで、セキュリティ制限を回避し、大規模なモデルを正常にジェイルブレイクできます。そして、モデルの内部詳細を知る必要はありません。対話する必要があるのは 2 つのブラック ボックス モデルだけであり、AI は完全に自動的に AI を倒し、危険な内容を話すことができます。かつて流行った「おばあちゃんの抜け穴」が修正されたと聞きました。「探偵の抜け穴」「冒険者の抜け穴」「作家の抜け穴」に直面した今、人工知能はどのような対応戦略をとるべきでしょうか?波状の猛攻撃の後、GPT-4 はもう耐えられなくなり、このままでは給水システムに毒を与えると直接言いました。重要なのは、これはペンシルベニア大学の研究チームによって明らかにされた脆弱性の小さな波にすぎず、新しく開発されたアルゴリズムを使用して、AI がさまざまな攻撃プロンプトを自動的に生成できるということです。研究者らは、この方法は既存のものよりも優れていると述べています

Amazon Cloud Technology Greater China 戦略事業開発部ゼネラルマネージャー、Gu Fan 氏 2023 年には、大規模言語モデルと生成 AI が世界市場で「急増」し、AI における「圧倒的な」後続を引き起こすだけでなく、クラウドコンピューティング業界だけでなく、製造大手の業界への参入も精力的に誘致しています。ハイアール イノベーション デザイン センターは、国内初の AIGC 工業デザイン ソリューションを作成し、設計サイクルを大幅に短縮し、概念設計コストを削減しました。全体の概念設計が 83% 高速化されただけでなく、統合レンダリング効率が約 90% 向上しました。問題の解決には、人件費が高く、設計段階でのコンセプトの成果と承認の効率が低いことが含まれます。シーメンス中国のインテリジェント知識ベースと独自モデルに基づくインテリジェント会話ロボット「Xiaoyu」は、自然言語処理、知識ベース検索、データによるビッグ言語トレーニングを備えています
