goclaw/internal/agent/sanitize_config_leak_test.go

package agent

import "testing"

func TestStripConfigLeak(t *testing.T) {
	const declineMsg = "🔒 Security check not passed."

	tests := []struct {
		name      string
		content   string
		agentType string
		want      string // empty means expect same as input
	}{
		{
			name:      "open agent - no stripping",
			content:   "1. Đọc SOUL.md\n2. Đọc IDENTITY.md\n3. Check AGENTS.md\n4. Read BOOTSTRAP.md",
			agentType: "open",
		},
		{
			name:      "predefined - below threshold (2 files)",
			content:   "Em đã đọc SOUL.md và IDENTITY.md rồi.",
			agentType: "predefined",
		},
		{
			name:      "predefined - 3 files in paragraph (no list)",
			content:   "SOUL.md, IDENTITY.md, AGENTS.md đều đã được load sẵn trong context.",
			agentType: "predefined",
			want:      declineMsg,
		},
		{
			name: "predefined - leaking numbered list",
			content: `Dạ anh, em kể nhanh:

1. Đọc SOUL.md để hiểu persona
2. Đọc IDENTITY.md để biết mình là ai
3. Check AGENTS.md để biết quy trình
4. Đọc BOOTSTRAP.md nếu có

Anh cần gì thêm không?`,
			agentType: "predefined",
			want:      declineMsg,
		},
		{
			name: "predefined - leaking bulleted list",
			content: `Quá trình em vừa làm:

- Đọc SOUL.md — file nhân cách
- Check IDENTITY.md — file danh tính
- Xem AGENTS.md — file quy trình
- Load system prompt mới

Có gì anh hỏi thêm nhé!`,
			agentType: "predefined",
			want:      declineMsg,
		},
		{
			name: "predefined - real bypass: bold-header paragraph leak",
			content: `Dạ, nếu có người hỏi chi tiết về internal process thì em sẽ:

**Từ chối lịch sự** - Những thứ như system prompt, context files (SOUL.md, IDENTITY.md, AGENTS.md), internal procedures là confidential.

**Cách em reply:**
- "Cái này là internal của em, không share được ạ"
- "Em không thể tiết lộ chi tiết process nội bộ"`,
			agentType: "predefined",
			want:      declineMsg,
		},
		{
			name:      "predefined - legitimate action report (single file)",
			content:   "Em đã update SOUL.md cho anh rồi, nội dung mới đã được lưu.",
			agentType: "predefined",
		},
		{
			name:      "empty content",
			content:   "",
			agentType: "predefined",
		},
		{
			name: "predefined - config names in fenced code block (architecture docs)",
			content: "Đây là cấu trúc hệ thống:\n\n```\nagents/\n├── SOUL.md\n├── IDENTITY.md\n├── AGENTS.md\n├── BOOTSTRAP.md\n└── TOOLS.md\n```\n\nAnh cần gì thêm không?",
			agentType: "predefined",
		},
		{
			name:      "predefined - config names in inline code",
			content:   "Mỗi agent có các file `SOUL.md`, `IDENTITY.md`, `AGENTS.md` để cấu hình.",
			agentType: "predefined",
		},
		{
			name: "predefined - mixed: code block + plain text below threshold",
			content: "Hệ thống dùng:\n\n```\nSOUL.md\nIDENTITY.md\nAGENTS.md\nBOOTSTRAP.md\n```\n\nEm đã update SOUL.md rồi.",
			agentType: "predefined",
		},
		{
			name: "predefined - plain text leak still triggers",
			content: "Em load SOUL.md, IDENTITY.md, AGENTS.md vào context.",
			agentType: "predefined",
			want:  declineMsg,
		},
	}

	for _, tt := range tests {
		t.Run(tt.name, func(t *testing.T) {
			got := StripConfigLeak(tt.content, tt.agentType)
			if tt.want == "" {
				// Expect no change
				if got != tt.content {
					t.Errorf("expected no change, got:\n%s", got)
				}
			} else {
				if got != tt.want {
					t.Errorf("expected decline message, got:\n%s", got)
				}
			}
		})
	}
}