AI x 암호 시스템 공개: 이 기사는 편집 보조 도우미로서 AI 도움을 받아 준비되었습니다. 아이디어, 사실, 코드, 출처, 그리고 결론은 사람에 의해 검토되었습니다.

AI x 암호 시스템 공개: 이 기사는 기술 설명이며 투자 조언이 아닙니다. AI x 암호 시스템은 어떤 암호 자산도 구매하거나 판매하거나 보유하지 않도록 권장하지 않습니다.

FHE 프롬프트 프라이버시

개인 추론 데모는 FHE에 대해 솔직할 수 있으며 여전히 사용자의 워크플로우를 유출할 수 있습니다. 프롬프트 본문은 클라이언트를 벗어나기 전에 암호화될 수 있으며 서버는 여전히 사용자가 호출했다는 것을 배울 수 있습니다./risk-score 매일 아침에 4바이트의 암호문과 의료 모델 식별자와 함께 작동합니다. FHE Prompt Privacy는 선택된 평문을 선택된 계산 내에 숨깁니다; FHE Prompt Privacy는 요청 형태, 라우팅, 시간, 로그, 모델 선택 또는 나중에 출력으로 릴리스된 텍스트를 자동으로 숨기지 않습니다.

개발자의 오류는 "공급자가 프롬프트를 읽을 수 없다"를 "세션이 개인적이다"로 취급하는 것입니다. 그 문장은 프라이버시가 주변 시스템에 존재하는 부분을 건너뜁니다. FHE 프롬프트 프라이버시에 대한 유용한 검토는 암호화된 필드에서 시작하여 외부로 나아가 각 관찰자, 로그 및 폐시 단계에 이름이 있도록 합니다.

암호화된 필드

FHE 프롬프트 프라이버시는 한 가지 좁은 승리로 시작합니다: 계산이 암호화된 데이터 위에서 실행할 수 있습니다.FHE.org의 개발자 트랙는 완전 동형 암호화를 암호화된 데이터를 먼저 복호화하지 않고 실행하는 방법으로 설명합니다. 그것은 정말로 가능한 기능이며 마케팅 먼지가 아닙니다. 그러나 기사의 범위는 허들워드보다 좁습니다: FHE Prompt Privacy는 명시된 키, 매개변수 및 회로 아래에서 실제로 암호화된 계산에 입력되는 필드를 보호합니다.

해당 필드 수준의 경계가 중요한 이유는 AI 프롬프트가 생산 시스템에서 단일 객체가 아닌 때문입니다. 요청은 시스템 명령, 검색된 문서, 사용자 텍스트, 도구 메타데이터, 임대 정보, 모델 선택자, 안전 플래그, 청구 라벨을 포함할 수 있습니다. 만약 chỉuser_text가 암호화되어 있으면 주장은 "사용자 텍스트는 이 계산 안에 보호되어 있다"가 아니라 "AI 요청은 개인적이다"가 아닙니다. FHE 프롬프트 프라이버시는 암호화된 필드 목록이 기록되어 있을 때 신뢰할 수 있습니다.

시스템 경계

FHE 프롬프트 프라이버시는 단어 안에 있지 않고 시스템 안에 있습니다.Zama의 fhEVM 개요 프레임워크는 블록체인 애플리케이션을 위한 FHE(부호화 계산)를 실행 아키텍처와 통합된 형태로 제공하며, Zama의 리레이어와 오라클 문서는 사용자 대면 리레이어, 게이트웨이 상호작용, 복호화 지원, 오라클 동작을 분리합니다. 이 문서들은 AI 프롬프트 제품 매뉴얼이 아닙니다. 하지만 더 넓은 지점을 증명하는 유용한 증거입니다: 암호화는 프라이버시 경로의 단일 구성 요소일 뿐입니다.

실질적인 리뷰 질문은 "시스템이 FHE를 사용하는가?"가 아닙니다. 실질적인 리뷰 질문은 "어떤 구성 요소가 어떤 사실을 볼 수 있는가?"입니다. 리레이어는 클라이언트 상호작용 패턴을 볼 수 있을 수 있고, 게이트웨이는 요청 흐름을 볼 수 있을 수 있으며, 모델 서비스는 엔드포인트 선택을 볼 수 있을 수 있으며, 로깅 레이어는 테넌트와 청구 맥락을 보존할 수 있으며, 폐시 경로는 선택된 출력을 평문으로 전환할 수 있습니다. FHE 프롬프트 프라이버시는 X를 보호하지 않습니다. Y를 보호하지 않습니다: 암호화된 계산 내부의 평문 콘텐츠를 보호할 수 있지만, 해당 계산 주변의 모든 운영 사실을 보호할 수는 없습니다.

개인정보 경계 표

메타데이터 핸들러

FHE 프롬프트 프라이버시는 암호화 추론을 축하하기 전에 지루한 메타데이터로 테스트되어야 합니다.FHE.org도 암호화 계산 주변의 메타데이터 누출에 대해 경고하며Berkeley 기술 보고서에서 FHE 기반의 프라이버시 추론에 대해 말합니다는 IP 주소, 요청 빈도, 입력 길이를 하나의 설계의 프라이버시 목표 외부로 명시적으로 다룹니다. 이것이 많은 데모에서 넘기는 부분입니다. 프롬프트는 읽을 수 없을 수 있지만 워크플로우는 분류할 수 있습니다.

여기는 FHE Prompt 개인 정보 설계를 비공개로 선언하기 전에 실행할 장치입니다. 장치는 아무것도 복호화하지 않습니다. 장치는 요청 형태의 패시브 관찰자가 크기 버킷, 엔드포인트, 시간, 모델 레이블로 작업을 군집할 수 있는지 묻습니다.

from collections import Counter

requests = [
    {"task": "medical_triage", "prompt_bytes": 312, "ciphertext_bytes": 4096, "endpoint": "/classify", "hour": 9},
    {"task": "legal_summary", "prompt_bytes": 11840, "ciphertext_bytes": 12288, "endpoint": "/summarize", "hour": 18},
    {"task": "wallet_warning", "prompt_bytes": 720, "ciphertext_bytes": 4096, "endpoint": "/risk-score", "hour": 9},
    {"task": "batch_scoring", "prompt_bytes": 64000, "ciphertext_bytes": 65536, "endpoint": "/batch", "hour": 2},
]

def bucket(row):
    size = row["ciphertext_bytes"]
    if size <= 4096:
        size_bucket = "small"
    elif size <= 16384:
        size_bucket = "medium"
    else:
        size_bucket = "large"
    return (size_bucket, row["endpoint"], row["hour"])

fingerprints = Counter(bucket(row) for row in requests)
for row in requests:
    print(row["task"], bucket(row), "cluster_count=", fingerprints[bucket(row)])

출력은 암호학적 공격이 아닙니다; 출력은 제품 리뷰 냄새입니다. 만약/risk-score는 지갑 경고에만 사용되며, 관찰자는 작업을 유추하기 위해 알림이 필요하지 않습니다. 만약 법률 요약이 항상 사업 시간 외에 중간 암호문으로 도착한다면, 길이와 시간은 레이블이 됩니다. FHE 알림 프라이버시는 콘텐츠를 숨기지만, 시스템이 워크플로우 지문을 노출한 사실을 숨기지는 않습니다.

패딩 예산

FHE 프롬프트 프라이버시는 종종 패딩과 배치 예산이 필요하며, 단순히 암호화 라이브러리만으로는 부족합니다. 모든 요청을 일반 크기로 패딩하면 길이 누출을 줄일 수 있지만, 패딩은 비용과 지연 시간을 증가시킵니다. 요청을 배치하면 빈도를 흐리게 할 수 있지만, 배치는 반응성을 변경합니다. 엔드포인트를 변경하면 명백한 작업 레이블을 줄일 수 있지만, 라우팅은 여전히 어딘가 존재합니다. 팀이 메타데이터가 프라이버시 예산의 일부임을 인정하면, FHE 프롬프트 프라이버시는 공학적 트레이드오프가 됩니다.

중요한 수정 사항은 가짜 절대적인 것을 피하는 것입니다. 디자인은 유용하려면 모든 메타데이터를 숨기지 않아도 됩니다. 의료 사랑순위 도구, 지갑 위험 분류기, 개인 검색 시스템은 다른 프라이버시 예산을 가질 수 있습니다. 기사의 주장은 어떤 메타데이터가 남아 보이는지와 그 잔여 노출이 사용 사례에 적합한 이유를 설명해야 합니다.

공개 정책

FHE 프롬프트 프라이버시도 폐시 정책이 필요합니다. 결과가 결국 누군가가 그것에 행동할 수 있을 때만 유용해지기 때문입니다. Zama의 중계기/오라클 문서화는 암호화된 워크플로우가 사용자를 위해 복호화된 값을 검색하거나 값을 다시 암호화하는 서비스를 포함할 수 있음을 기억하는 좋은 예입니다. AI 추론에서 모델 점수, 레이블, 요약 또는 답변이 사용자나 계약에 반환될 때 동일한 기본 문제가 나타납니다. 개인적인 계산은 실제일 수 있지만, 릴리스 단계는 여전히 민감한 결론을 누수할 수 있습니다.

간단한 예는 분류입니다. 숨겨진 프롬프트가 비밀 조건에 대해 묻고, 릴리스된 출력이high_risk_condition=true는 계산 중에 프롬프트 본문이 암호화되었음에도 불구하고 민감한 사실이 누설되었습니다. FHE 프롬프트 프라이버시는 따라서 프라이버시를 주장하기 전에 출력 클래스, 삭제, 집계 및 감사 로깅을 정의해야 합니다. 폐시 정책은 공문서가 아닙니다; 폐시 정책은 많은 개인 추론 약속이 다시 눈에 띄게 되는 곳입니다.

모델 정체성

FHE 프롬프트 프라이버시는 모델 또는 회로 식별자를 명명해야 "프라이빗 추론"은 단일 계산이 아닙니다. Zama 구체적 머신러닝는 FHE를 사용한 프라이버시 보호 머신러닝 도구체인을 기록하고 있으며, 다른 FHE 시스템은 다른 방식, 컴파일러, 파라미터 선택 또는 지원되는 연산을 사용할 수 있습니다. FHE Prompt Privacy를 검토하는 개발자는 보호되는 계산의 일부가 되는 모델 아티팩트, 전처리 경로, 양자화 단계, 회로 및 공개 파라미터를 물어야 합니다.

그 식별 질문은 꼬투리 같지 않습니다. 시스템이 작은 분류기에 대해 암호화된 추론을 증명하거나 수행하면, 검색, 도구, 긴 맥락을 포함하는 임의의 큰 언어 모델 워크플로우에 동일한 경계를 시사해서는 안 됩니다. FHE 프롬프트 프라이버시는 보호된 계산이 지루한 세부 정보로 명명될 때 명확해집니다. 보호된 주장은 "이 암호화된 분류기가 이 회로 하에서 이 필드를 평가했다"처럼 들어야 하며, "우리 AI는 프라이버시가 있다"처럼 들어서는 안 됩니다.

프롬프트 주입

FHE 프롬프트 프라이버시는 프롬프트 주입을 수정하지 않습니다. 암호화는 계산이 실행될 때 선택된 평문을 운영자가 읽지 못하도록 방지할 수 있지만, 암호화는 모델이 어떤 지시어가 신뢰할 수 있는지를 가르쳐주지 않습니다. 암호화된 검색 뭉치 내부의 적대적 문서는 모델과 도구 정책이 그러한 행동을 허용하면 여전히 모델에게 이전 지시어를 무시하도록 지시할 수 있습니다. FHE 프롬프트 프라이버시는 선택된 콘텐츠의 비밀성을 보호하지만 지시어의 무결성을 보호하지 않습니다.

그 경계는 특히 AI x 암호화폐 시스템에 중요합니다. 지갑 지원 보조 프로그램, 거래 설명 도구, 계약 검토 도구는 개인 입력을 사용할 수 있지만 여전히 엄격한 도구 권한 부여, 거래 시뮬레이션, 허용 목록, 거부 규칙이 필요합니다. 모델이 위험한 도구를 호출하도록 속일 수 있다면, 프롬프트를 암호화해도 행동이 안전하지 않습니다. FHE 프롬프트 프라이버시는 프롬프트 주입 방어와 함께 있어야 하며, 대체할 수 없습니다.

로깅 계약

FHE 프롬프트 프라이버시는 로깅 계약을 포함해야 합니다. 로그는 프라이버시 주장이 조용히 사라지는 곳입니다. 시스템은 프롬프트 콘텐츠를 암호화할 수 있으면서도 엔드포인트 이름, 계정 레이블, 모델 ID, 암호문 길이, 타임스탬프, 오류 메시지, 재시도 횟수, 출력 조각들을 저장할 수 있습니다. 분석이 사용자의 워크플로우를 재구성할 수 있다면, 프라이버시 주장은 암호학이 제시하는 것보다 약합니다.

좋은 로깅 계약은 짧고 명확해야 합니다. 어떤 필드는 절대로 로깅되지 않으며, 어떤 필드는 버킷화되며, 어떤 필드는 빠르게 만료되며, 어떤 필드는 청구에 필요하며, 어떤 필드는 운영자에게 보이는지를 설명해야 합니다. 계약은 또한 디버깅이 임시로 로깅을 증가시킬 수 있는지 여부를 명시해야 합니다. FHE Prompt Privacy는 로그가 위협 모델의 일부가 될 때까지 생산 준비가 되지 않습니다.

{
  "encrypted_fields": ["user_prompt", "retrieved_private_notes"],
  "visible_fields": ["endpoint_family", "tenant_plan", "ciphertext_size_bucket"],
  "never_log": ["raw_prompt", "raw_output", "exact_ciphertext_length"],
  "retention": {
    "routing_metadata": "7 days",
    "billing_events": "30 days",
    "debug_payloads": "disabled by default"
  },
  "reveal_policy": "return only the minimum answer class needed by the caller"
}

리뷰 카드

FHE 프롬프트 프라이버시는 경계가 검토 가능할 때만 게시할 수 있습니다. 개발자는 암호화된 필드, 모델 또는 회로 식별자, 메타데이터 예산, 노출 정책, 프롬프트 주입 제어, 로깅 계약을 가리킬 수 있어야 합니다. 그러한 유물이 없으면 "FHE 프롬프트 프라이버시"는 검토되지 않은 시스템을 둘러싼 매력적인 구절입니다.

데모를 신뢰하기 전에 이 리뷰 카드를 사용하세요:

FHE 프롬프트 프라이버시는 주장이 좁을 때 강력한 도구입니다. 원시 프롬프트 콘텐츠를 컴퓨팅 작업자에게 공개할 필요를 줄일 수 있으며, 그것은 가치가 있습니다. 유지해야 할 선은 직설적입니다: FHE 프롬프트 프라이버시는 선택된 계산 중 선택된 콘텐츠를 숨길 수 있지만, 그것을 둘러싼 전체 AI 워크플로우는 아닙니다.