GIZMODO 2023/5/29 01:00:00(JST)
「ブラックボックス」という言葉は、飛行機の記録装置や小さな劇場を連想する人もいれば、人工知能の世界で重要な意味を持つ言葉でもある。人工知能のブラックボックスとは、内部の動作がユーザーには見えないAIシステムのことである。入力を与えて出力を得ることはできるが、システムのコードや出力を生成したロジックを調べることはできない。機械学習は人工知能の主要なサブセットであり、アルゴリズム、トレーニングデータ、モデルの3つの要素から構成される。アルゴリズムは手順のセットであり、機械学習では、大量の例をトレーニングデータとして学習し、パターンを識別するようになる。機械学習アルゴリズムがトレーニングされた後、その結果は機械学習モデルとなる。モデルは人々が使用するものである。
「ブラックボックス」のアルゴリズム、トレーニングデータ、モデルのいずれかの要素を隠すことができる。アルゴリズムは公に知られていることが多いため、ブラックボックスに置くことはあまり効果的ではない。そのため、知的財産を保護するために、AI開発者はモデルをブラックボックスに置くことが多い。また、ソフトウェア開発者が取るアプローチの1つは、モデルのトレーニングに使用されたデータを不明瞭にすることである。
ブラックボックスの機械学習アルゴリズムやモデルには、理解することが非常に困難な場合がある。しかし、状況は完全にブラックとホワイトではない。逆に、アルゴリズム、トレーニングデータ、モデルがすべて誰でも見ることができるAIガラスボックスもある。しかし、研究者は、特に深層学習アルゴリズムがどのように動作するかを完全に理解していないため、これらの側面をブラックボックスとして特徴付けることがある。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：What Is an AI ‘Black Box’?.