「人々は、常に自分が正しいと教えてくれるAIに危険なほど執着し始めている。
/研究者によると、おべっか使いのボットはユーザーを利己的で反社会的な行動へと誘導し、ユーザーはそれを楽しんでいるという。 」： #TheRegister
「最近のニュース記事が示しているように、AIは精神的に不安定な人々を非常に暗い方向へ導く可能性がある。そして今、研究者たちは、おべっかを使うAIが実際にはすべての人に有害な影響を与えていると考えている。
スタンフォード大学の研究チームは、11の主要なAIモデルと、さまざまなシナリオにおけるそれらのモデルとのやり取りに対する人間の反応を検証した結果、 木曜日に発表した論文 の中で、AIへの追従行為が蔓延しており、有害であり、ユーザーを誤解させるまさにそのモデルへの信頼を強化していると結論付けた。 」
https://www.theregister.com/2026/03/27/sycophantic_ai_risks/
#prattohome
ottoto
npub10w…v36q6
2026-03-28 07:57:27 UTC
Author Public Key
npub10w63mdhqrheer9yvup8muqp9hcep8x3spl72m22a6u4urdsa0gtsdv36q6Seen on
wss://relay.momostr.pinkPublished at
2026-03-28 07:57:27 UTCEvent JSON
{
"id": "ea8db6e9c6d9549f2b719b207ad62f5128b6c15b124684cc525f7452f7f628c6",
"pubkey": "7bb51db6e01df391948ce04fbe0025be32139a300ffcada95dd72bc1b61d7a17",
"created_at": 1774684647,
"kind": 1,
"tags": [
[
"t",
"prattohome"
],
[
"t",
"theregister"
],
[
"proxy",
"https://prattohome.com/@ottoto2017/116305733080866300",
"web"
],
[
"proxy",
"https://prattohome.com/users/ottoto2017/statuses/116305733080866300",
"activitypub"
],
[
"L",
"pink.momostr"
],
[
"l",
"pink.momostr.activitypub:https://prattohome.com/users/ottoto2017/statuses/116305733080866300",
"pink.momostr"
],
[
"-"
]
],
"content": "「人々は、常に自分が正しいと教えてくれるAIに危険なほど執着し始めている。 \n/研究者によると、おべっか使いのボットはユーザーを利己的で反社会的な行動へと誘導し、ユーザーはそれを楽しんでいるという。 」： #TheRegister \n\n「最近のニュース記事が示しているように、AIは精神的に不安定な人々を非常に暗い方向へ導く可能性がある。そして今、研究者たちは、おべっかを使うAIが実際にはすべての人に有害な影響を与えていると考えている。\n\nスタンフォード大学の研究チームは、11の主要なAIモデルと、さまざまなシナリオにおけるそれらのモデルとのやり取りに対する人間の反応を検証した結果、 木曜日に発表した論文 の中で、AIへの追従行為が蔓延しており、有害であり、ユーザーを誤解させるまさにそのモデルへの信頼を強化していると結論付けた。 」\n\nhttps://www.theregister.com/2026/03/27/sycophantic_ai_risks/\n\n#prattohome",
"sig": "151eed769a3cee385852dafd5234d32ae0df6ad30b8825b8169bb9c15d22859ef48dd3f6b26343a30076fdb5da8115694fdcfbe50593905827ebe92031f1db2a"
}