詳細ページ

大規模言語モデル(LLM)、特に、チャットGPTなどの発表と公開により、AI言語モデルが急速に普及している。サイバーセキュリティの現在のトピックと開発について議論するための政治、ビジネス、科学のためのフォーラムである第19回ドイツITセキュリティ会議の一環として、連邦情報セキュリティ局(BSI)は、5月3日、AI言語モデルの長所と短所とリスク、および適切な予防措置に関する情報を提供するポジションペーパーを公表した^１。

BSIのこのポジションペーパーによると、操作された画像、ビデオ、音声出力は、リスクとしてとらえるべきであり、適切な予防措置で対処する必要がある^２。

たとえば、テキストとメッセージの信憑性は、その作者を技術的に証明するために使用できる暗号化方法によって証明できる。特に重要なのは、人工知能の機能に関するユーザーの教育である。

AIを用いれば、多くの場合、言語的に瑕疵のない文章生成が容易にできるので、AI言語モデルのユーザーは、人による作成のような印象を持つことが多く、AIで生成されたコンテンツへ過度の信頼を寄る傾向がある。このような傾向を認識してもらうことは重要な施策である。

なお、BSIは、消費者向けの広報資料も近日中に発行する予定。

^１https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Grosse_KI_Sprachmodelle.pdf?__blob=publicationFile&v=2
^２https://www.bsi.bund.de/DE/Service-Navi/Presse/Pressemitteilungen/Presse2023/230510_Kongress_LLMs.html