AI・機械学習

人工知能の悪用：予測、防止、緩和

The Malicious Use of Artificial Intelligence (arxiv.org)

72 pointsby rasengan02026年9月14日17 コメント

要約

本レポートは、人工知能（AI）の悪用による潜在的なセキュリティ脅威の状況を調査し、これらの脅威をより良く予測、防止、緩和する方法を提案しています。AIがデジタル、物理、政治領域における脅威の様相にどのように影響するかを分析した後、AI研究者およびその他の関係者への4つのハイレベルな推奨事項を提示します。また、防御策のポートフォリオを拡大したり、攻撃をより効果的でなく、実行を困難にしたりする可能性のある、いくつかの有望な研究分野も提案しています。

全文翻訳

コンピュータサイエンス > 人工知能

arXiv:1802.07228 (cs)

[2018年2月20日提出 (v1)]、最終改訂2024年12月1日（本バージョン、v2）]

タイトル: 人工知能の悪用：予測、防止、緩和策

著者: Miles Brundage, Shahar Avin, Jack Clark, Helen Toner, Peter Eckersley, Ben Garfinkel, Allan Dafoe, Paul Scharre, Thomas Zeitzoff, Bobby Filar, Hyrum Anderson, Heather Roff, Gregory C. Allen, Jacob Steinhardt, Carrick Flynn, Seán Ó hÉigeartaigh, SJ Beard, Haydn Belfield, Sebastian Farquhar, Clare Lyle, Rebecca Crootof, Owain Evans, Michael Page, Joanna Bryson, Roman Yampolskiy, Dario Amodei

Miles Brundageと他の25名の著者による論文「人工知能の悪用：予測、防止、緩和策」のPDFを表示

PDFを表示

要旨: 本レポートは、人工知能（AI）の悪用による潜在的なセキュリティ脅威の状況を調査し、これらの脅威をより良く予測、防止、緩和する方法を提案しています。AIがデジタル、物理、政治領域における脅威の状況にどのように影響するかを分析した後、AI研究者およびその他の関係者への4つのハイレベルな推奨事項を提示しています。さらに、防御策の選択肢を拡大したり、攻撃をより効果的で実行困難にしたりする可能性のある、いくつかの有望な研究分野を提案しています。最後に、攻撃者と防御者の長期的な均衡について議論しますが、結論は出していません。


件名:	人工知能 (cs.AI); 暗号理論とセキュリティ (cs.CR); コンピュータと社会 (cs.CY)
引用:	arXiv:1802.07228 [cs.AI]
	（または、このバージョンについては arXiv:1802.07228v2 [cs.AI]）
	https://doi.org/10.48550/arXiv.1802.07228 DataCite経由のarXiv発行DOI