Vision & Utilities
음성 인식(Whisper), OCR·이미지 캡셔닝, 임베딩, 3D 생성, 립싱크·토킹헤드, 비디오 향상까지 — 생성 외의 모든 AI 유틸리티를 하나의 API로 사용하세요.
모델 비교표
| 모델 | 크레딧 | 유형 | 특징 |
|---|---|---|---|
| salesforce/blip | 1 | OCR/캡션 | Salesforce, 빠른 처리 |
| andreasjansson/clip-features | 1 | 임베딩 | CLIP, 빠른 처리 |
| falcons-ai/nsfw_image_detection | 1 | 안전 필터 | Falcons.ai, 빠른 처리 |
| charlesmccarthy/addwatermark | 1 | 비디오 유틸 | FullJourney, 빠른 처리 |
| lucataco/florence-2-large | 2 | 객체 감지 | Microsoft, 빠른 처리 |
| adirik/grounding-dino | 2 | 객체 감지 | Grounding DINO, 빠른 처리 |
| beautyyuyanli/multilingual-e5-large | 2 | 임베딩 | E5, 빠른 처리 |
| abiruyt/text-extract-ocr | 3 | OCR/캡션 | OCR, 빠른 처리 |
| lucataco/moondream2 | 5 | OCR/캡션 | Moondream, 빠른 처리 |
| nicolascoutureau/video-utils | 5 | 비디오 유틸 | FFmpeg, 빠른 처리 |
| meta/muse-voice-transcribe-1.0 | 7 | 음성 인식(STT) | Meta, 빠른 처리 |
| vaibhavs10/incredibly-fast-whisper | 10 | 음성 인식(STT) | Whisper, 빠른 처리 |
| openai/whisper | 10 | 음성 인식(STT) | OpenAI, 최고 품질 |
| zsxkib/mmaudio | 11 | 비디오 유틸 | MMAudio, 고품질 |
| thomasmol/whisper-diarization | 14 | 음성 인식(STT) | Whisper, 빠른 처리 |
| chenxwh/cogvlm2-video | 28 | 비디오 유틸 | CogVLM, 고품질 |
| meta/muse-voice-transcribe-1.0/realtime | 35 | 음성 인식(STT) | Meta, 빠른 처리 |
| firtoz/trellis | 77 | 3D 생성 | Microsoft, 고품질 |
| bytedance/latentsync | 220 | 립싱크/아바타 | ByteDance, 고품질 |
| cjwbw/sadtalker | 230 | 립싱크/아바타 | SadTalker, 고품질 |
| tencent/hunyuan-3d-3.1 | 1,160 | 3D 생성 | Tencent, 최고 품질 |
| lucataco/real-esrgan-video | 1,280 | 비디오 향상 | Real-ESRGAN, 고품질 |
| veed/lipsync/v2 | 2,440 | 립싱크/아바타 | Veed, 고품질 |
오디오·비디오·이미지 파일은 POST /v1/files/upload-url로 업로드한 뒤 해당 URL을 입력으로 사용하세요. 처리 시간이 파일 길이에 비례하는 모델은 상세 문서에 표기되어 있습니다.
모델 상세 정보
각 모델의 상세한 파라미터, 예제, 활용 팁은 개별 문서에서 확인하세요.
Incredibly Fast Whisper
Whisper
Whisper large-v3 optimized for speed (38M+ runs) — transcribes roughly 150 minutes of audio in under 100 seconds using batched inference. Chunk-level or word-level timestamps.
Muse Voice Transcribe 1.0
Meta
Meta's Muse Voice Transcribe speech-to-text over the Meta developer API - 25 languages with code-switching (Korean included), speaker diarization, endpointing, keyword and language biasing. Billed per second of audio (0.11625 credits/s, about 7 credits per minute), up to 10 minutes per request.
Muse Voice Transcribe 1.0 (Realtime)
Meta
Meta's Muse Voice Transcribe over a WebSocket - stream 16-bit PCM (24 kHz or 16 kHz mono) and receive partial and final transcripts while you speak, with endpointing and diarization. Billed per second of audio Meta processed (0.11625 credits/s, 35 credits per 5-minute block), sessions up to 20 minutes.
Whisper
OpenAI
OpenAI's Whisper large-v3 speech recognition (144M+ runs) — the standard for transcription. Automatic language detection across ~100 languages, English translation, and plain text / SRT / VTT output formats.
Whisper Diarization
Whisper
Whisper transcription with speaker diarization (8M+ runs) — returns who said what, with per-segment speaker labels and timestamps. The go-to for meetings and interviews.
BLIP
Salesforce
Salesforce BLIP (173M+ runs) — image captioning, visual question answering, and image-text matching in one model. The classic choice for bulk captioning at 1 credit per image.
CLIP Features
CLIP
CLIP ViT-L/14 embeddings for text AND images (163M+ runs) — puts both in the same vector space for cross-modal search, image dedup, and zero-shot classification. 1 credit per run.
Florence-2 Large
Microsoft
Microsoft's Florence-2 all-in-one vision model — captioning, object detection, phrase grounding, OCR, and segmentation in a single API. Pick a task, optionally add text input, done.
Grounding DINO
Grounding DINO
Text-prompted object detection (39M+ runs) — describe what to find in natural language ('red car, person wearing a hat') and get bounding boxes with confidence scores plus an annotated image.
Hunyuan 3D 3.1
Tencent
Tencent's flagship 3D generation — create high-polygon textured 3D models from a text prompt OR an image, with optional PBR (physically based rendering) materials.
Moondream2
Moondream
Small but capable vision-language model (14M+ runs) — ask free-form questions about any image and get detailed answers. Efficient VQA for tagging, moderation prep, and rich alt-text.
Multilingual E5 Large
E5
Multilingual text embeddings (74M+ runs) — 1024-dimension vectors across 100 languages including Korean. Pairs perfectly with Core.Today customer databases' vector search (knn_vector).
NSFW Image Detection
Falcons.ai
The standard NSFW image classifier (127M+ runs) — returns 'normal' or 'nsfw' for any image. An essential, ultra-cheap moderation gate for UGC platforms.
Text Extract OCR
OCR
Simple, massively-used OCR (91M+ runs) — extracts text from an image with a single input and returns plain text. Great default for receipts, screenshots, and scanned documents at just 1 credit.
TRELLIS
Microsoft
Microsoft's TRELLIS image-to-3D (836K+ runs — the most-used 3D model on Replicate). Turns one or more images into a textured GLB 3D asset, with turntable render videos and optional Gaussian PLY.
Add Watermark
FullJourney
Add a text watermark to any video — simple, fast brand protection for generated or user content at 2 credits per video.
CogVLM2 Video
CogVLM
Video understanding and captioning — ask free-form questions about a video and get detailed answers about actions, scenes, and content. Great for video search indexing and moderation prep.
LatentSync
ByteDance
ByteDance's open-source lipsync — re-syncs a video's mouth movements to any audio track using latent diffusion. State-of-the-art open lipsync quality for dubbing and localization.
MMAudio
MMAudio
Add AI-generated sound to any video (5M+ runs) — synthesizes synchronized audio (ambience, effects, foley) from the video content and an optional text prompt. The perfect finisher for silent AI-generated clips.
Real-ESRGAN Video
Real-ESRGAN
Video upscaling with Real-ESRGAN — enhance videos to FHD, 2K, or 4K frame by frame. The go-to open-source video upscaler for old footage and AI-generated clips.
SadTalker
SadTalker
Talking-head video from a single photo and an audio track — animates the face with natural head motion and eye blinks, with optional GFPGAN face enhancement.
Veed Lipsync v2
Veed
Veed Lipsync v2 via Fal.AI. Replaces a source video's mouth movements to articulate a new audio track — takes any source video + a new audio track and produces a lip-synced output video.
Video Utils
FFmpeg
FFmpeg-powered video utilities (20M+ runs) — convert to mp4/gif, extract audio as mp3, or dump zipped frames, all with one task parameter. The Swiss-army knife for media pipelines.
빠른 시작 — 음성 인식 (Whisper)
오디오 URL 하나로 100개 언어 자동 감지 전사를 받을 수 있습니다 (13크레딧):
curl -X POST https://api.core.today/v1/predictions \
-H "Content-Type: application/json" \
-H "X-API-Key: cdt_your_api_key" \
-d '{
"model": "openai/whisper",
"input": {
"audio": "https://example.com/meeting.mp3",
"language": "auto"
}
}'화자 구분·발화 구간이 필요하면 Meta Muse Voice Transcribe (오디오 1초당 0.11625크레딧, 분당 약 7크레딧, 한국어 포함 25개 언어). 결과는 transcript·audioDurationMs·turns[]가 담긴 JSON입니다:
curl -X POST https://api.core.today/v1/predictions \
-H "Content-Type: application/json" \
-H "X-API-Key: cdt_your_api_key" \
-d '{
"model": "meta/muse-voice-transcribe-1.0",
"input": {
"audio": "https://example.com/meeting.m4a",
"mode": "DIARIZATION",
"language_bias": ["Korean", "English"]
}
}'이미지에서 텍스트 추출(OCR)은 단 1크레딧입니다:
curl -X POST https://api.core.today/v1/predictions \
-H "Content-Type: application/json" \
-H "X-API-Key: cdt_your_api_key" \
-d '{
"model": "abiruyt/text-extract-ocr",
"input": { "image": "https://example.com/receipt.jpg" }
}'실시간 스트리밍 (WebSocket)
말하는 동안 부분·최종 전사를 받아야 한다면 POST /predictions가 아니라 WebSocket으로 접속하세요. Meta Muse Voice Transcribe 1.0 (Realtime)만 지원하며, 이 모델은 POST /predictions를 400 realtime_only로 거부합니다. 엔드포인트는 wss://api.core.today/v1/realtime/asr입니다.
인증은 X-API-Key 헤더(접속 전에 검증됨)이거나, 헤더를 설정할 수 없는 런타임을 위해 핸드셰이크 JSON의 apiKey 필드입니다. 리셀러 팀은 X-Customer-Id 헤더(또는 핸드셰이크 customerId)가 필수이고, 키와 같은 소스(헤더↔헤더, JSON↔JSON)여야 합니다. 브라우저에 실제 API 키를 넣지 마세요— 자체 서버에서 접속하고, 그 서버가 브라우저와는 별도 채널로 오디오를 중계해야 합니다.
접속 직후 첫 텍스트 프레임으로 핸드셰이크를 보냅니다(10초 안에 보내지 않으면 4400 handshake_timeout):
{
"model": "meta/muse-voice-transcribe-1.0/realtime",
"audioEncoding": "PCM_24KHZ",
"mode": "ENDPOINTING",
"partialMode": "CUMULATIVE",
"emitAudioProgress": false,
"keywords": ["Core.Today"],
"languageBias": ["Korean"],
"apiKey": "cdt_your_api_key",
"customerId": "member-123"
}이후 바이너리 프레임으로 raw PCM 16-bit 모노 오디오를 보냅니다(프레임당 최대 64 KiB). 실시간 속도(1x)로 보내고, 보낼 오디오가 없을 때는 무음으로 패딩하세요 — 10초 동안 오디오가 없으면 4408 idle_timeout이고, 실시간보다 5초 이상 앞서 보내면(페이싱 위반) 4400 pacing_violation으로 끊습니다. 전사를 마치려면 텍스트 프레임 {"type":"endStream"}을 보내세요.
우리가 보내는 이벤트: 접속 확정 session, Meta가 그대로 전달하는 transcript·speechStart·speechEnd·speechComplete·speaker(그리고 emitAudioProgress: true면 audioProgress), 마지막으로 정산이 끝난 뒤 보내는 usage입니다:
{"type":"session","sessionId":"rt_..."}
{"type":"transcript","isFinal":false,"text":"..."}
{"type":"usage","sessionId":"rt_...","audioSeconds":73,"credits":9,"reason":"client_end"}Python 예시 — 24kHz WAV를 80ms 프레임으로 1배속 스트리밍하고 이벤트를 출력합니다:
import asyncio, json, os, wave, websockets
API_KEY = os.environ["AIAPI_API_KEY"]
ENDPOINT = "wss://api.core.today/v1/realtime/asr"
async def main():
async with websockets.connect(
ENDPOINT, additional_headers={"X-API-Key": API_KEY}
) as ws:
await ws.send(json.dumps({
"model": "meta/muse-voice-transcribe-1.0/realtime",
"audioEncoding": "PCM_24KHZ",
"mode": "ENDPOINTING",
"languageBias": ["Korean"],
}))
async def send_audio():
with wave.open("meeting-24khz-mono.wav", "rb") as wav:
frame_bytes = int(24000 * 2 * 0.08) # 80ms of 16-bit mono PCM
while chunk := wav.readframes(frame_bytes // 2):
await ws.send(chunk)
await asyncio.sleep(0.08) # pace at 1x — never send ahead
await ws.send(json.dumps({"type": "endStream"}))
async def recv_events():
async for msg in ws:
if isinstance(msg, str):
print(json.loads(msg))
await asyncio.gather(send_audio(), recv_events())
asyncio.run(main())close 코드:
| 코드 | 의미 |
|---|---|
| 1000 | 정상 종료 (클라이언트 종료, 20분 상한, 기능 정지) |
| 1011 | Meta 세션 오류 |
| 1012 | 서버 재배포 — 이번 세션은 최종 전사·usage 이벤트 없이 즉시 끊깁니다. 지수 백오프로 재접속하세요 |
| 4400 | 핸드셰이크·프레임 오류 또는 페이싱 위반 (invalid_handshake / model_not_found / ambiguous_auth / handshake_timeout / invalid_frame / pacing_violation) |
| 4401 | API 키 없음/무효 (unauthorized) |
| 4402 | 크레딧/고객 예산 부족 (insufficient_credits / reseller_account_insufficient / customer_wallet_insufficient) |
| 4403 | 리셀러 스코프·허용 모델·키 비활성 (invalid_customer_id / customer_suspended / customer_not_found / model_not_allowed / api_key_disabled) |
| 4408 | 10초 이상 오디오 무입력, 또는 이벤트를 충분히 빨리 읽지 않는 느린 클라이언트 (idle_timeout / client_slow) |
| 4413 | 바이너리 프레임이 64 KiB를 초과 (frame_too_large) |
| 4429 | 동시성·속도 제한 (customer_concurrency_exceeded / team_concurrency_exceeded / rate_limit_exceeded / customer_rate_limited / server_busy) |
| 4503 | 기능 정지 또는 업스트림/게이트웨이 장애 (feature_disabled / provider_unavailable / provider_rejected / provider_rate_limited / admission_unavailable) |
과금: 초당 0.11625크레딧, 5분(300초) 블록마다 35크레딧씩 예약되고 세션 진행에 따라 즉시 정산됩니다. 최종 청구는 Meta가 실제로 처리했다고 보고한 오디오 초 기준이며(연결 시간이 아님), 마지막 부분 블록은 그 초만큼만 청구됩니다(예: 73초 = 9크레딧, 300초 = 35크레딧). 세션은 최대 20분(1,200초)이고, 그 이상은 재접속해야 합니다. 배포 중 서버가 재시작되면 진행 중 세션은 1012로 즉시 끊기며(최종 전사·usage 이벤트는 받지 못함) 정산은 서버 쪽에서 처리되므로 지수 백오프로 재접속하면 됩니다.
모델 선택 가이드
- 음성 전사 — openai/whisper (13크레딧, 표준). 긴 오디오를 빠르게는 incredibly-fast-whisper (13크레딧), 회의록처럼 화자 구분이 필요하면 whisper-diarization (9크레딧). 한·영 혼용 회의나 키워드 바이어싱이 필요하면 meta/muse-voice-transcribe-1.0 (초당 과금, 분당 약 7크레딧, 최대 10분/요청)
- OCR·캡션 — 텍스트 추출은 text-extract-ocr (1크레딧), 이미지 캡션·VQA는 blip (1크레딧), 자유 질문은 moondream2 (7크레딧)
- 임베딩 — 다국어 텍스트는 multilingual-e5-large (3크레딧, 한국어 지원 + 고객 DB 벡터 검색 조합), 이미지·텍스트 교차 검색은 clip-features (1크레딧)
- 3D 생성 — 이미지→3D는 trellis (100크레딧, GLB 출력), 프롬프트/이미지 겸용 최고 품질은 hunyuan-3d-3.1 (1,500크레딧, PBR 지원)
- 립싱크·토킹헤드 — 영상 립싱크는 latentsync (285크레딧), 사진 한 장으로 토킹헤드는 sadtalker (120크레딧)
- 콘텐츠 모더레이션 — nsfw_image_detection (1크레딧, UGC 필수 게이트)
- 객체 감지 — 자연어로 찾는 grounding-dino (3크레딧), 감지+캡션+OCR 올인원 florence-2-large (3크레딧)
- 비디오 업스케일·유틸 — real-esrgan-video (1,650크레딧, FHD/2K/4K), 비디오에 AI 사운드는 mmaudio (15크레딧), 변환·추출은 video-utils (7크레딧), 비디오 내용 질문은 cogvlm2-video (36크레딧)