AIからアーティストを守ることを目的とした新しいツール

芸術の完全性を維持する。

AI アート ツールの台頭により、人間のアーティストが職を失う恐れがあり、多くの AI モデルは同意なしにインターネット上の人間のアーティストの作品からトレーニングされています。 ただし、Glaze などのツールは、AI アート ツールを騙す目的で開発されています。

シカゴ大学のコンピューター科学者によって開発された Glaze は、機械学習アルゴリズムを使用して、AI モデルが画像を理解しようとする試みを阻止する方法で、アートワークや画像をデジタル的に覆い隠します。

たとえば、アーティストは、Glaze を使用して作成した油絵の画像をアップロードできます。 これにより、人間の目には明らかに油絵であるにもかかわらず、AI モデルはその絵画を木炭画のようなものとして読み取ることになります。

このツールを使用すると、アーティストは自分の作品のデジタル画像を撮影し、Glaze で実行することができます。「その後、この作品が人間で見た場合よりも AI モデルで見た場合に劇的に異なって見えることを確信できます」とベン・ザオ教授は述べています。シカゴ大学のコンピュータサイエンスの博士号であり、Glazeプロジェクトの主任研究者の一人である同氏はCNNに語った。

Zhao氏によると、Glazeの最初のプロトタイプは2023年3月にリリースされ、すでに100万ダウンロードを超えているという。 このツールの無料版も今月初めにリリースされました。

カリフォルニアを拠点とするアーティストのジョン・ラム氏は、オンラインで共有する自分のアートワークのすべての画像に Glaze を使用していると述べました。

「人々が私たちの高解像度の作品を利用し、私たちが作業しているのと同じ空間で競合するマシンにそれを送り込んでいることを私たちは知っています」とラム氏は述べた。 「だから今はもう少し慎重になって、自分たちを守る方法を考え始めなければなりません。」

ドイツのシュトゥットガルトを拠点とするビジュアル アーティストの Eveline Fröhlich 氏も、AI 時代にアーティストを保護するために Glaze がどのように役立ってきたかについて語りました。

「それは私たちに反撃する方法を与えてくれました」とフレーリッヒ氏は述べた。私が個人的に最初に気づいたのは、「そうだ、押し返すことには意味がある」ということだった。

Glaze は今日アーティストが直面している AI 関連の問題の一部を解決できるが、ハイテク企業が AI トレーニングのためにインターネットからデータを取得する方法を規制するには、さらに多くの措置を講じる必要があるとも述べています。

「今、私たちはアーティストたちが炭鉱のカナリアのような存在であることを目の当たりにしています」とラム氏は語った。 「しかし、それは実際にはあらゆる業界に影響を与えるでしょう。」

また、Zhao 氏は、Glaze をリリースして以来、彼のチームは小説作家、ミュージシャン、声優、ジャーナリストなどの他の分野から、自分の分野向けの Glaze のバージョンについて問い合わせる大量のメッセージを受け取ったと述べています。

AI ツールからデジタル画像を保護することを目的としたもう 1 つの最近のツールは、PhotoGuard と呼ばれます。 このツールは、マサチューセッツ工科大学の研究者であるハディ サルマン氏と、MIT コンピューター サイエンスおよび人工知能研究所の研究者によって作成されました。

「私たちはディープフェイクの時代にいる」とサルマン氏はCNNに語った。 「今では誰でも画像やビデオを操作して、実際にやっていないことをさせることができます。」

この技術のプロトタイプは、画像に目に見えない「免疫化」を施し、AI モデルが画像を操作したり変更したりできないようにします。 PhotoGuard は、人間の目には知覚できない方法で画像のピクセルを調整することによって機能します。 このツールの目的は、人々がオンラインにアップロードする写真を AI モデルによる操作から保護することです。

このツールは、2 つの異なる「攻撃」方法を使用して摂動を生成します。 1 つは、AI モデル内の画像の潜在表現をターゲットとする「エンコーダー」攻撃で、モデルに画像をランダムなエンティティとして認識させます。 2 つ目は、ターゲット画像を定義し、摂動を最適化して画像をターゲットにできるだけ近づける「拡散」攻撃です。