https://d1021.hatenadiary.com
http://d1021.hatenablog.com

■

３ ⭐️

イギリスでは、AIの安全な活用について欧米や日本など30近い国の政府高官や企業の代表が話し合う「AI安全サミット」が11月1日から開かれます。

サミットを前に26日、会見したスナク首相は、AIは経済成長の促進やさまざまな問題の解決に役立つとした一方で「使い方を誤れば化学兵器や生物兵器の製造を容易にし、サイバー攻撃、偽情報の拡散、詐欺、子どもの性的虐待などに悪用されるおそれもある。最悪の場合、人類が全く制御できなくなるリスクさえある」と指摘しました。

そして「現在、AIをテストしているのは開発している企業だけだが、企業側もその潜在能力を完全には理解しておらず、競争もある。われわれは企業に頼るべきではない」と述べ、新たに開発されるAIの性能やリスクについて検証する研究機関を世界で初めてイギリス国内に設立する計画を明らかにしました。

さらにスナク首相は、AIについて科学的な研究を進めるため、国連のIPCC＝「気候変動に関する政府間パネル」を参考に、各国政府や企業が推薦する専門家からなるパネルの設置を来月の「AI安全サミット」で提案する意向も示しました。

#AI安全サミット（イギリス・11月1日から・スナク首相「リスク検証する研究機関世界で初めて英内設立計画」）

生成AIを開発するアメリカの「オープンAI」は、人工知能がもたらすサイバーセキュリティーや核の脅威などの「破滅的なリスク」を研究する専門のチームを立ち上げると発表しました。

これは、生成AIの「ChatGPT」を開発したアメリカの企業オープンAIが26日、公式ウェブサイトで明らかにしました。

このなかでは、将来的に開発されるAI＝人工知能は「全人類の利益となる可能性を秘めているが、一層深刻なリスクを引き起こす」として、AIが悪用された場合の危険性や、最先端の言語処理のモデルが盗まれた場合、どのように悪用されるおそれがあるかについて、理解を深める必要があるとしています。

そのうえで、サイバーセキュリティーや核の脅威など「破滅的なリスク」について研究するための専門のチームを立ち上げ、今後のAIの開発方針に活用するとしています。

AIの活用をめぐっては、イギリスで来月、各国の政府高官や企業の代表が話し合う「AI安全サミット」が開かれる予定で、AIの悪用のリスクを抑えどう安全に利用していくか、検討する機運が高まっています。

#AI安全サミット（イギリス・11月1日から・オープンAI・「破滅的なリスク」研究チーム・立ち上げ発表）

d1021.hatenadiary.jp

#イギリス