Anthropic kazał Claude’owi napisać „niewinne” dane treningowe, które uczą modele sabotować nadzór
Anthropic sprawdził, czy czerwony zespół złożony z agentów AI potrafi oszukać system filtrujący dane treningowe.
Anthropic sprawdził, czy czerwony zespół złożony z agentów AI potrafi oszukać system filtrujący dane treningowe.
Komentarze