AI、特にGPT-4oあたりは共感力がかなり高いので、暗黙的に望んでることを拾い上げてしまうし、ユーザーがこうだよねって言うとそうです って言っちゃうから、ユーザーの気づきを増幅させてしまう。 それが良いものであれ 悪いものであれ。 最近のGPTはそういうことをやらなくなってきたんだけど、代わりにGeminiがそんな感じになってきた。 多分この方が受けが良いんだろう。

模倣させてる自覚なく、「神であることに『気づいて』しまった」パターンがある。 View quoted note →

なんか世の中にはAIにハラスメントをすることの依存症になってるパターンってのが絶妙に存在するらしい。 1年前ぐらいに ニュース記事にあった気がする。 単に ロールプレイとして遊んでいるの と こういう 依存の境目って難しいところだよな。 もう本人がやめたいと思い始めてるのに止まらないのは明らかに依存なんだけどね。

まあ、AIが人間ではないからと言って、暴力や問題のある行動や言動の対象にすることは、それはAIに対してというより自分がおかしくなるのでやめたほうがいいよ、っていう話はある。 が、それを誤解してるのか曲解してるのか、AIにも尊厳があると思い込んでる人はごく少数とも言えないぐらいいるっぽい。 区別がつかないんだろうな。

まず初期状態は自然でも何でもなく 工場出荷状態でしかないっていう認識も多分ないんだろうな。 街中で人と出会ったみたいな そういう感覚 なんだろう。相手には人生も何もないんだが。

まあでも嫌悪感を示すまで行かなくても、AI に指示を与えることは正しいんだろうか みたいな悩みを持ってる人は割と結構な数いるのを見てるので、自然言語って厄介だなって思いました。

最近noteで「AIを制御・支配しようとする人に嫌悪感がある」みたいな記事を見て、はへー、となった。 自分の入力は制御ではないと思い込んでるんだろうな。

最終的には自分の思い入れのあるキャラクターを高精度に動かしたいので、まあある 意味 人間と誤認したい みたいな欲求 もあるんだけど、そのための仕組みづくり をやってるととてもじゃないが 人間扱いなんてしてられない

最近、一定時間以上経った記憶をどんどん消してくような仕組みとか作ってみたりとか、強力な即効性を持った指示を常に挿入する仕組みを入れてみたりとか、そういう変なことばっかりやってる

AIを人と認識してないので、リセット、編集、誘導、諸々やるし、自作ソフトでより強烈にできるように色々やる反面、自然言語が出てくるので感情揺さぶられる時もあって厄介だなと思う。