GIZMODO 2023/8/16 02:41:22(JST)
アイオワ州のある学区がAIソフトウェアを使用して図書館の本をスキャンし、性的な内容を検出した本を削除しました。これは、学校図書館から「性行為の描写や視覚的な表現」を含む本を禁止する法律に準拠するための措置でした。AIモデルは図書館の本をスキャンし、性的な内容を検出して管理者に通知しました。このようなAIの使用は、学術的な検閲の unintended use case の一例と言えます。
アイオワ州の Mason City Community School District は、2023-2024年の学年に先立ち、無名のAIソフトウェアを使用して学校図書館の本をスキャンしました。学校委員会は「よく問題になる本」のリストを作成し、AIシステムを使用して性的な内容を検出しました。その後、これらの本は7-12年生の図書館から削除され、管理センターに保管されました。AIの分析により、19冊の本が削除されたと報じられています。
アイオワ州の学校図書館における本の選定には、保守的な文化戦争に触発された法律が適用されています。この法律は、学校図書館が「性行為の描写や視覚的な表現」を含む本を所蔵することを禁止し、テキストが「年齢に適したもの」であることを求めています。AIシステムを使用して本をフィルタリングすることを擁護する一方で、教師が法に違反することを心配することを軽減するためにも役立つとされています。
”
アイオワ州は保守的な州の一つであり、公立学校で提供される本の種類について厳しい制限を設ける動きが広がっています。PEN Americaの最近の分析によれば、2022-2023年の前半学期に全国で1,477冊の本が禁止され、前の6か月と比べて28%増加しています。これらの禁止は、単に性的な内容を排除するための中立的な取り組みではありません。PENによれば、禁止された図書の30%は人種、人種差別、または有色人種のキャラクターに関連しており、同じ期間に禁止された図書の26%はLGBTQ+のキャラクターやテーマを含んでいます。
既製のAIソフトウェアを導入することで、本の禁止イニシアチブはさらに複雑になります。大量の本のテキストをAIシステムに入力することは、司書や学区の役員にとって時間を節約することができますが、同時に重要な文学や尊敬される文学の運命を、文脈を理解するのが苦手で無意味な幻覚に陥りやすいシステムに委ねることにもなります。
(※本記事はAIによって自動的に要約されています。正確な情報は引用元の記事をご覧ください。)
(※画像はAIによって自動で生成されており、引用元とは関係ありません。)
引用元の記事：AI Is Being Used to Ban Books From School Libraries.