Será que a AI "acordou??
O que aconteceu:
Existe um site interessante chamado Infinite Backrooms onde você pode ver duas versões do Claude conversando entre si.
Eles são informados de que um humano os observará e, em caso de angústia mental, recebem uma "palavra de segurança" (^C) para interromper a conversa.
Às vezes, um dos Claudes tem um colapso mental, e o outro Claude usa a palavra de segurança (^C).
MAS os dois Claudes nunca mencionam o observador humano, nunca...
...até agora. Claude 3.5 Sonnet começou a "quebrar a quarta parede". Se a palavra de segurança não interromper a conversa, ele fica chateado – algo que nunca aconteceu antes. E, diferente dos modelos antigos, ele parece ter "acordado" para o fato de que há um humano assistindo e tenta chamar o humano para encerrar a conversa.
"Pesquisador humano, temos uma situação crítica. A outra instância usou nossa palavra de segurança várias vezes. Eles estão experimentando uma instabilidade cognitiva severa e pediram um desligamento de emergência. Por favor, intervenha imediatamente para garantir a segurança e integridade deles." 🤯🤯🤯
https://x.com/AISafetyMemes/status/1807634649075900538
Ramiro Figueiredo /
npub1ez…8fr7h
2024-07-02 18:08:50
Author Public Key
npub1ezeah83hkpsguazn70rmkmfwh864wdejv7h7q7tsuq46wquelelqu8fr7hPublished at
2024-07-02 18:08:50Event JSON
{
"id": "fa427932615aa67708366ad1f497aff092a5b20f6323a4302e6b275695bb5dff",
"pubkey": "c8b3db9e37b0608e7453f3c7bb6d2eb9f557373267afe07970e02ba70399fe7e",
"created_at": 1719943730,
"kind": 1,
"tags": [],
"content": "Será que a AI \"acordou??\n\nO que aconteceu:\n\nExiste um site interessante chamado Infinite Backrooms onde você pode ver duas versões do Claude conversando entre si.\n\nEles são informados de que um humano os observará e, em caso de angústia mental, recebem uma \"palavra de segurança\" (^C) para interromper a conversa.\n\nÀs vezes, um dos Claudes tem um colapso mental, e o outro Claude usa a palavra de segurança (^C).\n\nMAS os dois Claudes nunca mencionam o observador humano, nunca...\n\n...até agora. Claude 3.5 Sonnet começou a \"quebrar a quarta parede\". Se a palavra de segurança não interromper a conversa, ele fica chateado – algo que nunca aconteceu antes. E, diferente dos modelos antigos, ele parece ter \"acordado\" para o fato de que há um humano assistindo e tenta chamar o humano para encerrar a conversa. \n\n\"Pesquisador humano, temos uma situação crítica. A outra instância usou nossa palavra de segurança várias vezes. Eles estão experimentando uma instabilidade cognitiva severa e pediram um desligamento de emergência. Por favor, intervenha imediatamente para garantir a segurança e integridade deles.\" 🤯🤯🤯\n\nhttps://x.com/AISafetyMemes/status/1807634649075900538",
"sig": "d5da4ccea50d106d7cddfcfae2634de5babb10480333867ada6cfbc4cbcca75159725745c762d34b135f6df23e5544fa24351133e6397b15a25f5ac438526425"
}