またAI減速論かよ。結局何がしたいんだ？

気になった一言

またAI減速論かよ。結局何がしたいんだ？

わかっている事実

• AIの進歩は社会がその能力とリスクに適応する速度よりもはるかに速い軌道にある。
• AIは非常にポジティブな技術だが、信じられないほど強力なものでもある。
• AIのフロンティア開発を遅らせる方法を見つける必要がある。
• Anthropicは、開発を遅らせるための3段階計画の最初のステップに一方的にコミットしている。
• Anthropicは第三者評価者に、システムへの恒久的な従業員レベルのアクセスを提供する。
• 第三者評価者は、安全性対策の順守を確認し、インシデントを報告し、トレーニング中のモデルのアライメントを評価する。

AIの進歩が社会の適応速度を大きく上回っているという見方があります。AIはポジティブかつ強力な技術であるため、真に恩恵を受けるには真剣に向き合うべきだとされています。そのため、AI開発のフロンティアを意図的に減速させる方法を見つける必要がある、という主張です。Anthropicは、この減速計画の最初のステップとして、第三者評価者にシステムへの恒久的なアクセスを提供すると発表しました。これにより、安全性対策の検証やインシデント報告、トレーニング中のモデルのアライメント評価が可能になるとのことです。

結局どう見るか

結局、自社だけがコミットして、他社が追随しなかったら意味ないだろ。絵に描いた餅だな。