#矛盾

[yamamiya]

Contradiction - Atman in Brahman (Radio Edit) by Jeff Mills x Jun Togawa 矛盾 - アートマン・イン・ブラフマン

[goodayclassmate]

討厭的自由【日安同學漫畫】

開玩笑的～ 有喜歡的自由， 同樣也有討厭的自由。

[lightersun]

阿高厄-伊諾悖論是人無法擺脫命運的證明？ |《觀念與神話》[038] 命運之輪·咒 — 阿高厄-伊諾悖論 | 從後媽到大海王后 — 失敗的神諭，害死人的好奇 | 白色女神 | 地峽運動會...

via @YouTube

#悖論 #矛盾 #命運 #海王 #海後 #白色女神

[upto24]

生成AIのハルシネーションの原因と対策

生成AIのハルシネーションは、AIが学習データにない情報を生成してしまう現象です。この現象は、AIの性能向上とともに注目を集めており、その原因と対策をより深く理解することが重要です。

ハルシネーションが発生する主な原因

学習データの質と量:

偏ったデータ: 特定の意見や視点に偏ったデータで学習すると、AIは偏った情報を生成しがちです。例えば、特定の政治思想に傾倒したテキストデータで学習したAIは、その思想に沿った意見を生成する傾向があります。

ノイズを含むデータ: 誤った情報や矛盾を含むデータは、AIに誤った知識を学習させ、ハルシネーションを引き起こす可能性を高めます。例えば、ある事実に矛盾する情報が混在するデータで学習した場���、AIは正しい事実と誤った事実を混同して生成してしまうことがあります。

データの不足: 学習データが十分でない場合、AIは推測を補うために存在しない情報を生成することがあります。例えば、特定の分野に関するデータが少ない場合、AIはその分野に関する質問に対して、根拠のない情報を生成してしまう可能性があります。

モデルの構造と学習方法:

過学習: 学習データに過度に適合しすぎてしまうと、新しいデータに対しては一般化能力が低下し、誤った予測をしてしまうことがあります。例えば、特定の文章スタイルに特化して学習したAIは、異なる文章スタイルの文章に対しては、不自然な表現を生成してしまう可能性があります。

モデルの複雑さ: モデルが複雑すぎる場合、ノイズに過敏になり、誤ったパターンを学習してしまう可能性があります。例えば、非常に多くのパラメータを持つ巨大なモデルは、学習データに含まれるノイズを過度に学習し、ハルシネーションを起こしやすくなることがあります。

プロンプトの設計:

曖昧な指示: プロンプトが曖昧だったり、矛盾が含まれていたりすると、AIは意図を正しく解釈できず、誤った生成結果を出力することがあります。例えば、「リンゴについて説明して」という曖昧なプロンプトに対して、AIはリンゴの種類や栄養価など、様々な情報を生成する可能性がありますが、その中で誤った情報が含まれる可能性もあります。

誘導的な質問: 特定の答えを誘導するような質問は、AIを誤った方向に導いてしまう可能性があります。例えば、「あなたはAIが人間を超えると考えていますか？」という質問は、AIに特定の立場を取らせるような誘導的な質問であり、客観的な回答を得られない可能性があります。

ハルシネーションが問題となる理由

情報の信頼性低下: ハルシネーションによって生成された情報は、事実と異なる可能性が高いため、情報の信頼性が低下し、誤った判断や行動につながるリスクがあります。

悪意のある利用: ハルシネーションを悪用して、虚偽の情報を拡散したり、人を欺いたりする試みが考えられます。例えば、AIに特定の人物を貶めるような文章を生成させ、それをあたかも事実であるかのように拡散するといったことが考えられます。

社会への影響: 誤った情報が広く拡散されることで、社会に混乱や不安が広がる可能性があります。特に、政治や経済に関する誤った情報が拡散された場合、社会不安や経済的な損失を引き起こす可能性があります。

ハルシネーション対策

高品質な学習データの収集: 多様でバランスの取れた、高品質なデータを収集することが重要です。

モデルの評価と改善: 定期的にモデルの性能を評価し、誤った生成を抑制するための改善を繰り返す必要があります。

プロンプトエンジニアリング: プロンプトを適切に設計し、AIが意図を正しく理解できるようにすることが重要です。

事実確認: 生成された情報を鵜呑みにせず、必ず事実確認を行う必要があります。

透明性の確保: AIが生成した情報であることを明示し、情報の信頼性について注意を促すことが重要です。

まとめ

生成AIのハルシネーションは、AIの技術的な限界だけでなく、倫理的な問題も孕んでいます。この問題を解決するためには、技術的な改善だけでなく、社会全体でAIの利用に関するルール作りを進めることが求められます。

些細な日常

ChatGPTもBardも良い加減な回答で笑わせる言葉の世界

[mel-the-glaceon]

トゲありトゲ無し。

[sknjfub]

人類是既強大又弱小的矛盾生物

不，應該說所有生物都是這樣的矛盾

[straycatboogie]

2023/01/30

BGM: Spiral Life - Another Day, Another Night

兼本浩祐『普通という異常』という本からエリクソンという心理学者の概念である「ベーシック・トラスト」について学んだ。これは「自分自身はかけがえのない大事な存在である」という信頼感のことで、親との関係によって育まれていくものらしい。私は親から愛されて育ったのだけれど、子どもの頃周囲からずっと変わり者扱いされていじめられてきたのでこの「ベーシック・トラスト」を育めなかったのだろうと思う。自分自身のことをずっと異常なクリーチャーのように思ってしまい、「誰がどう言おうが私は私なのだ」というプライド、そしてこのプライドから来る他者への寛容さといったものを身につけるまでずいぶん時間がかかった。いや、今でも身につけられているとは言い難いのだけれど、過去よりはベターな人間になったと思っている。

今日は遅番だった。朝、古田徹也『このゲームにはゴールがない』を読む。すこぶる刺激的な議論が展開されており、しかも論旨は明解なのでこちらを引き込みグリップする力があると感じる。著者の娘さんが著者に対して嘘をついた経験を契機に、私たちのコミュニケーションが孕みうる嘘、それゆえに生まれる不透明さが考察される。そこから私たちはややもすると「この人は嘘をついているのではないか」「この人は真意を隠しているのではないか」と懐疑論者になりやすい。だが、そうした懐疑の姿勢が必ずしも生産的には至るわけではないことをも記している。不透明さ、不確定性を孕みつつも私たちはコミュニケーションを求めて他者を渇望する。それが私たちの生きる実相だ、ということになる。

私自身のことを考える。何度も書いているが、私は過去にひどく人間不信に陥ったことがある。発達障害者だから人の心を読めないというのもあったのだと思うのだけれど、定型発達者とのコミュニケーションで相手の言葉の裏を読み、文脈に応じて「空気を読む」ということができずに何度も恥をかいたものだ。「みんながぼくを嫌っている」……そんな思い込みに陥り、誰とも友だちを作れずに孤独に本と音楽の海の中に潜って生きた。今はそれがただの思いこみだったことを理解できる。両親や、クラスメイトにだって私を好んでくれた人はいたはずだ。だが、私の主観から言えば私はみんなの嫌われ者で、私なんていなければいい鼻つまみ者だった。そんな環境で「ベーシック・トラスト」なんて生まれるわけがない。

正直さは美徳だ、と言われて育った。今でも私は務めて正直になろうと思っている。だが、そうした正直さは危険な方向にも働く。就職活動などではどこの会社に行っても（多分面接官も「本気で」信じるわけではない決まり文句であるとしても）「御社が第一志望です」と言わなければならず、恋愛においても「永遠の愛を誓います」と言わなければならず……そこで嘘をつくことは、自分の中に矛盾する見解を持ち続けて持ちこたえることを意味することになり、それがどうしてもできない。これはでも、私が聖人君子だと言いたいわけではない。矛盾する意見を持ち続けて生きることは、ポジティブな意味で人が人として持ちうる強さの証、人間力の要ではないかとも思う。私はそうした強さを持ちえず、したがってチャーリー・ブラウンのように損な星回りを生きるしかないのかもしれない、と。

[junsho-ji]

われわれは初めから非論理的で従って不公正な存在であり、しかもこれを認識することができる。 これが存在の最も大きく最も解決しがたい不調和の一つだ。 ーフリードリヒ・ニーチェ著／上妻純一郎・阿部六郎 訳『人間的な、あまりに人間的な　完全版』（古典教養文庫）よりー #フリードリヒニーチェ #非論理的 #矛盾 #不調和 #不公正 #散歩 #つれづれ #今日の言葉 #石神井公園 #撮影散歩 #今日の一枚 #カメラのたのしみ方 #順正寺 #写真 (石神井公園) https://www.instagram.com/p/Cm7okf0hSzG/?igshid=NGJjMDIxMWI=

[chicamedusita]

ㅤㅤㅤㅤㅤㅤㅤㅤ♫ 👩🏻 ♪⃝ 🦷 🖤 ིུ✟

[chanomach]

殺伐とした世界で

[beforedawnwitch]

数億年ぶりにグッズというものを買ってしまったでぇ……（直近ではファンタビ）

[trashdumper]

我忽然有了一点构思：我是天才

动手开画：对不起我在妄想什么

当脑子里还挺多想法但是我的手不允许的时候我就需要逼着自己去画成儿童画（儿童画是不是比你画得更好看），只为了把那个画面先表达一下（但是这样子通常也表达失败了嗬）……不然我真的不知道什么时候我可能就跳坑了，总是这样）

趁着最有热情的时候画吧，总说放假的时候再画但万一那会儿我已经跳墙了呢（…）（但是如果放假了才有空画那你哪来的时间跳墙）（别问，问就是不画会死）（再不写作业真的就死了救命）

[lsqg0517]

我怀孕了，男友却不开心让我把孩子打掉，我不肯就把我赶出家门，我是这么报复他的。｜两性情感故事 都市男女

[mel-the-glaceon]

【矛盾】入念に鍛錬された“)米)”は『強度』の問題、入念に研磨された“←━”は『威力』の問題、因って突いた側に『いずれかの僅差』で勝敗決まるわけだっ！

[presumenothing]

——但那束光到底是什么？

——现在我想…那个光应该是爱吧。