ButerinはAIガバナンスにおける悪用を防ぐためにInfo Financeに行動を促す

• Vitalikは、単純なAIガバナンスが操作や悪用に対して脆弱であると警告しています。
• Info financeはモデルの多様性と迅速な修正を生み出し、AIガバナンスをより安全にします。
• 予測市場とスポットチェックは、AIの意思決定と資金調達の安全性を高めます。

Ethereum共同創設者のVitalik Buterinは、単純なAIガバナンスモデルが深刻なリスクをもたらすと警告し、資金調達や意思決定にAIを依存するフレームワークは操作や悪用に対して依然として脆弱であると注意を促しました。彼の見解では、このようなシステムは悪意のある行為者がリソースを流用することを許してしまいますが、彼は「info finance」と呼ばれるアプローチを提唱しており、市場、人間による監督、チェックを通じて説明責任を構築し、不正利用を防ぐことを目的としています。

単純なAIガバナンスへの反論

Buterinは、単純なAIガバナンスはリスクが高いと強調し、AIが資金配分に使われる場合、人々は自分の選んだプロンプトでAIを操作し、過剰な資金を得る可能性があると付け加えました。さらに、もしモデルが何の制限やガイドラインもなく動作するならば、不正利用される恐れがあり、ハッカーがプロンプトを使ってAIを騙し、誤ったリソースを解放させることを助長すると詳述しました。

このような脆弱性は、AIを潜在的に危険なループホールに陥らせます。さらにButerinは、放置すれば操作されかねないシステム上の弱点を明らかにしました。見えない攻撃やプロンプトインジェクションは、攻撃者が簡単に悪用できる例です。

代替案としてのInfo Finance

Buterinは単純なガバナンスの代わりに情報ファイナンスを選択し、これを「制度設計」のアプローチと表現し、オープンな市場競争と人間による検証を融合させたものと説明しています。彼は次のように述べました。

代替案として、私はinfo financeアプローチを支持します。ここでは、誰でも自分のモデルを提供できるオープンな市場があり、誰でもトリガーできるスポットチェック機構があり、人間の陪審員によって評価されます。

彼は、Info Financeによって外部の貢献者が大規模言語モデル（LLM）を一つのシステムにハードコーディングすることなく統合できると説明しました。これによりモデルの多様性が生まれ、広範な失敗のリスクが減少します。また、開発者や投機家が欠陥を注意深く監視し、問題が発生した際に迅速に対応するインセンティブも生まれます。

提案されているメカニズムの一つは、予測市場や意思決定市場の活用です。複数のモデルが競い合い、参加者は結果にステークすることで、どのモデルが最も信頼できるかを示します。人間の陪審員や監査人が定期的に結果をスポットチェックし、特に重要なケースで検証します。

関連：ETHトレジャリーが120億ドルに急増、Vitalikがレバレッジリスクを警告

暗号資産と市場への影響

Info financeは多層的な説明責任に依存しており、オープンな競争の中で欠陥のあるモデルが挑戦されたり、置き換えられたりすることが可能です。陪審や監査による人間の監督も加わります。経済的インセンティブが操作を防ぎ、透明性が悪意ある行動を可視化します。

AIガバナンスをブロックチェーンや取引と結びつけることで、Buterinは中央集権型AIの欠陥が分散型ソリューションへの関心を高める可能性を示唆しています。これらの多くはEthereum上に構築されています。さらに、Render NetworkのRNDRやThe GraphのGRTのようなトークンはAI計算のインフラを提供し、発展の恩恵を受けています。また、トレーダーは市場のボラティリティの中でETHやこれらのトークンを使ってアービトラージを行うこともできます。

オンチェーンデータによれば、AI関連のスマートコントラクトに関連するETH取引が増加しており、AIガバナンスの問題はNVIDIAやMicrosoftのような企業がAI投資に関与していることから、テック株にも影響を与える可能性があります。全体として、ButerinはInfo Financeがより迅速な修正を可能にし、欠陥モデルの置き換えや不正行為者へのペナルティを実現すると指摘しました。また、陪審チェックやスポットチェックが悪用の拡大を防ぐとも述べています。

The post Buterin Pushes Info Finance to Stop Exploits in AI Governance appeared first on Cryptotale.