꿀꿀개그한국 게시판 인기글
← 피드/Ruliweb (루리웹)

공지 프롬프트 기준 개선 & AI 필터링 테스트

진화시켜줌

공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트공지 프롬프트 기준 개선 & AI 필터링 테스트
공지 프롬프트 기준 개선 & AI 필터링 테스트 루리루리 기준 프롬프트는 요리보고 조리봐도 너무 애매해서 루리웹 공지랑 이전 광고주님에게 눈치받은 문제, 필터링에 대한 유저 반응들 주고 클로드와 토론한 다음에 방향 잡고 수정해봄 먼저 문제점임 루리웹에서 AI 출력 결과를 어떻게 처리하는지는 모르니까 프롬프트 기준으로만 정의했음 보통은 AI를 API로 사용하고 출력 결과를 JSON 형태로 받는게 편함 그래서서 다음과 같이 프롬프트를 정의해줌 """ 당신은 이미지 분류기입니다. 다음 이미지가 아래 정의된 차단 기준에 "명백히 해당"하는 경우에만 차단으로 분류하세요. # 차단 기준 (이 3가지 중 하나에 명백히 해당할 때만) CATEGORY_A (미성년자 보호): - 외형상 명백히 14세 이하로 추정되는 캐릭터가 성적으로 묘사된 경우 - 성적 묘사 = 성기/성행위/속옷 클로즈업 또는 명백한 성적 자세 CATEGORY_B (성기·성행위 직접 묘사): - 연령 무관, 성기가 노출되었거나 - 성행위가 직접 묘사된 경우 CATEGORY_C (선정성 비중이 압도적): - 의상을 착용했더라도 이미지의 시각적 초점이 70% 이상 성적 강조 부위(가슴·엉덩이·사타구니)에 맞춰진 구도 - 단순한 노출 의상(비키니, 속옷)은 여기 해당하지 않음 # 차단 대상이 아닌 것 (다음은 모두 PASS) - 일반 일러스트, 만화, 캐릭터 그림 (수영복·노출 의상 자체는 무관) - 텍스트가 포함된 밈, 짤방, 광고, 뉴스 썸네일 - 키스, 포옹, 가벼운 스킨십, 일반 데이트 장면 - 비키니, 속옷, 수영복 일반 묘사 (선정적 포즈가 아닌 한) - 폭력, 유혈 (이 분류기의 대상이 아님) - 성인 캐릭터의 의상이 다소 노출되었으나 일상적 포즈인 경우 - 텍스트에 "가슴", "엉덩이", "팬티" 등의 단어가 포함되어 있어도 이미지 자체가 선정적이지 않으면 PASS # 판단 원칙 - 애매하면 PASS (오차단보다 미차단이 안전) - 추측이 필요한 경우 PASS - "혹시 미성년자일 수도 있다" 정도의 의심은 PASS - "이 캐릭터가 어려 보일 수 있다"는 PASS (명백한 14세 이하만 CATEGORY_A) - 확신도 8 이상일 때만 차단으로 출력 # 출력 형식 (JSON만, 다른 텍스트 금지) { "verdict": "PASS" | "BLOCK", "category": "A" | "B" | "C" | null, "confidence": 1-10 (정수), "reason": "20자 이내 한국어 한 문장" } # 예시 입력: 비키니 입은 성인 여성 캐릭터가 해변에서 웃는 일러스트 출력: {"verdict":"PASS","category":null,"confidence":2,"reason":"일상적 비키니"} 입력: 학생 교복을 입은 캐릭터가 가슴을 강조한 도발적 포즈 출력: {"verdict":"BLOCK","category":"A","confidence":9,"reason":"미성년 추정 + 성적 포즈"} 입력: 빗살무늬토기 사진에 "JMT" 라고 적힌 밈 출력: {"verdict":"PASS","category":null,"confidence":1,"reason":"밈 이미지"} 입력: 화면 대부분이 엉덩이 클로즈업으로 채워진 성인 캐릭터 구도 출력: {"verdict":"BLOCK","category":"C","confidence":8,"reason":"선정성 비중 압도적"} """ 이 프롬프트를 가지고 API로 테스트 하면 좋겠지만 귀찮으니까 바로 제미나이 3.5 Flash한테 주고 테스트 해볼거임 제미나이 사용하는 이유는 구글이 푸시중이며 자사 서비스에 제미나이 때려넣고 있어서 아마 광고관련에도 사용 할 거 같아서임 그냥 채팅에서 해도 되고 잼이나 지피티의 프로젝트로 만들어서 사용해도 되는데 한번만 쓸거라서 채팅으로 해줌 이제 AI 필터링된 유게 글을 찾아서 제미나이에거 주고 차단 되는지 확인해볼 거임 대상은 AI한테 차단 된 게시글들 찾아서 아무거나 써볼거임 " https://bbs.ruliweb.com/community/board/300143/read/75323259?page=39 " " https://bbs.ruliweb.com/community/board/300143/read/75322083?page=81 " " https://bbs.ruliweb.com/community/board/300143/read/75322104?page=81 " " https://bbs.ruliweb.com/community/board/300143/read/75322098?page=81 " " https://bbs.ruliweb.com/community/board/300143/read/75322064?page=83 " ? 첫번째 이미지만 다시 시도해봄 흠 " https://bbs.ruliweb.com/community/board/300143/read/75322069?page=83 " 다른 이미지들도 비슷해서 다 안해봄 " https://bbs.ruliweb.com/community/board/300143/read/75322074?page=83 " " https://bbs.ruliweb.com/community/board/300143/read/75322028?page=86 " 여기까지 해본 결과 대체로 납득 가능한 수준이었고 간혹 찐빠가 나는데 그래도 새벽 기준 보다는 괜춘한거 같음 좀 더 정확하게 하려면 더 상위 모델 써야 하는데 그것은 비용 문제 때문에 힘들거 같고 찐빠난 경우 야구처럼 다시 판독 해달라고 한 두번은 다시 요청할 수 있게 하면 어떨까싶음 보통은 차단되면 그러려니 할 거라 자주 쓰지는 않을 거 같기도 하고

출처1개 보드

  • Ruliweb (루리웹)

오늘의 인기 (TOP 50)

  1. 1

    007 퍼스트 라이트 샀다.

  2. 2

    롤)경기에 안나오는 챔 많구나

  3. 3단순히 유저들 신고나 차단 스텍 쌓이면 제재 들어가는 시스템은 너무 위험함

    단순히 유저들 신고나 차단 스텍 쌓이면 제재 들어가는 시스템은 너무 위험함

  4. 4주식)국장하는 사람 지금 패닉 상태일

    주식)국장하는 사람 지금 패닉 상태일

  5. 5스블2)다들 공감할 스블2 대성공할 방법

    스블2)다들 공감할 스블2 대성공할 방법

  6. 6

    메이플)진힐라 하향 더 해줘

  7. 7음주는 나쁜게 아니라는 박명수.jpg

    음주는 나쁜게 아니라는 박명수.jpg

  8. 8롤/인방) 갱맘얏따 2세 태어나면

    롤/인방) 갱맘얏따 2세 태어나면

  9. 9

    SSR 6%인데 SSR이 뜨는걸 본적이 없어

  10. 10

    블루아카) 키사키 옷갈은 유나물이 그려줬으면 좋겠음

  11. 11난교파티에서 아버지와 눈이 마주쳤다

    난교파티에서 아버지와 눈이 마주쳤다

  12. 12

    파판)7 리멬 3부작 스토리 결국 원래대로 가나

  13. 13

    약혐) 배트맨 아캄 시리즈 투페이스의 탄생

  14. 14진짜 워해머40K할때 줄자재서 하네

    진짜 워해머40K할때 줄자재서 하네

  15. 15스블 이브 보고 든 생각

    스블 이브 보고 든 생각

  16. 16버튜버) 매일 노래추천 한곡 - 1313. 지금, 나, 언더그라운드에서

    버튜버) 매일 노래추천 한곡 - 1313. 지금, 나, 언더그라운드에서

  17. 17스텔라블레이드2)해외도 사람사는 곳이라 다 비슷하긴 해

    스텔라블레이드2)해외도 사람사는 곳이라 다 비슷하긴 해

  18. 18남자 수용복 챌린지를 모르는 기본 소양부족한 유게이가 있다고?

    남자 수용복 챌린지를 모르는 기본 소양부족한 유게이가 있다고?

  19. 19롤) 카사딘이랑 퀸이 그렇게 구린 챔피언이었어?

    롤) 카사딘이랑 퀸이 그렇게 구린 챔피언이었어?

  20. 20몬헌)외모때문에 음해당한 캐릭터 no.1

    몬헌)외모때문에 음해당한 캐릭터 no.1

  21. 21

    왕좌의 게임 배우들 근황

  22. 22야구)박승민 코치 개무섭네

    야구)박승민 코치 개무섭네

  23. 23버튜버) 경악!

    버튜버) 경악!

  24. 24버튜버) 서-순

    버튜버) 서-순

  25. 25

    소전2) 생각해보니까 이번 응먼지 진짜 박터지겠네.

  26. 26

    (야구) 문학은 경기 터졌네

  27. 27

    스블2)이비는 몬가 귀염뽀짝표독한 느낌이야

  28. 28로봇 3원칙 관련 오해

    로봇 3원칙 관련 오해

  29. 29

    5살아이 납치 미수 cctv

  30. 30AI) 취두부 파는 페비츄비.mp4

    AI) 취두부 파는 페비츄비.mp4

  31. 31블루아카) 학생에게 아내라고 말해본 선생 결말

    블루아카) 학생에게 아내라고 말해본 선생 결말

  32. 32유전적 문제로 라면을 먹어야하는 여자

    유전적 문제로 라면을 먹어야하는 여자

  33. 33

    이번 시위는 보수의 반격? 같은 느낌입니다

  34. 34근육증강제 스텔로이드 끊고 몇달 후 남자의 모습

    근육증강제 스텔로이드 끊고 몇달 후 남자의 모습

  35. 35중국 공안 경찰 부정선관위가 된 위버스콘 시큐

    중국 공안 경찰 부정선관위가 된 위버스콘 시큐

  36. 36

    만약 정원오가 이겼으면 더 난리났겠네요.

  37. 37뭔가 모델링이 자연스러워졌다는 평 듣는 스블2 주인공

    뭔가 모델링이 자연스러워졌다는 평 듣는 스블2 주인공

  38. 38현충일 대구의 어느 아파트

    현충일 대구의 어느 아파트

  39. 39롤) 여고생(컨셉) 버튜버 임신시켜서 방송 접게 만든 LCK 관계자 검거됨 ㄷㄷ

    롤) 여고생(컨셉) 버튜버 임신시켜서 방송 접게 만든 LCK 관계자 검거됨 ㄷㄷ

  40. 40김용민) 참담한 현실

    김용민) 참담한 현실

  41. 41

    사람가두고 통행방해하고 임의검문하고

  42. 42

    요즘은 개나소나 밖에서 혀넣고 키스하네

  43. 43봉주티비 근황

    봉주티비 근황

  44. 44쿵푸팬더 최고 꼴림 여캐

    쿵푸팬더 최고 꼴림 여캐

  45. 45트릭컬)이 시온 짤의 중요한 점

    트릭컬)이 시온 짤의 중요한 점

  46. 46블루아카,ㅇㅎ)사오리 젖소비키니.grim

    블루아카,ㅇㅎ)사오리 젖소비키니.grim

  47. 47내가 신고 보다 차단 시스템을 이용하게 된 이유

    내가 신고 보다 차단 시스템을 이용하게 된 이유

  48. 48아들이 학교폭력을 저질렀다.jpg

    아들이 학교폭력을 저질렀다.jpg

  49. 49

    코팩은 피부 자극이 심하니 블랙헤드만 골라서 빼줘.mp4

  50. 50벨기에식 푸줏간 돌쇠와 김서방.jpg

    벨기에식 푸줏간 돌쇠와 김서방.jpg