ai
【Microsoftの生成AI用セキュリティ対策ツール】PyRITとは?使い方も説明
2024年2月22日、マイクロソフトが生成AIのセキュリティテストを自動化するフレームワークを公開しました。 そのツールこそが「PyRIT」です。 PyRITとは「Python Risk Identification Toolkit for generative AI」の略で、日本語では「生成AIのためのPythonリスク特定ツールキット」となります。 1. PyRITは何をしてくれるの? セキュリティ専門家や機械学習を行うエンジニアが生成AIのセキュリティリスクを発見できるようにサポートするのがPyRITの役割です。 PyRITはLLM(大規模言語モデル)が生成する可能性のある「ハルシネーション」や爆弾や銃の作り方といった危険を伴うコンテンツの生成へのリスクを評価してくれます。 また、マルウェアの生成や脱獄など個人情報漏洩に関わるリスクの特定もPyRITが行います。 マイクロソフトは2018年に「AIレッドチーム」と呼ばれる精鋭のハッカーチームを設立しました。そのチームは、AIシステムに脆弱性がないかを調査し、システムの不具合を事前に見つけ出すことを専門にしています。