🌱
LLM 이 자기 생각인 줄 알고 따라가는 가짜 reasoning — Role Confusion 정리
AI 모델은 Role 태그를 확인해서 생각을 정리한다. 이 Role 태그를 사용한 탈옥 기법
#AI
#AISafety
#PromptInjection
총 3개의 글이 있습니다.
AI 모델은 Role 태그를 확인해서 생각을 정리한다. 이 Role 태그를 사용한 탈옥 기법
트럼프가 존 코너인가..?
TLDR AI에서 본 Anthropic Institute 글. AI가 AI를 만드는 시대가 오고 있다. 우리... 멈춰야함?