惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

F
Fortinet All Blogs
C
Check Point Blog
GbyAI
GbyAI
博客园 - 司徒正美
爱范儿
爱范儿
N
Netflix TechBlog - Medium
H
Hacker News: Front Page
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
Security Latest
Security Latest
C
Cyber Attacks, Cyber Crime and Cyber Security
博客园 - Franky
Recent Announcements
Recent Announcements
P
Privacy International News Feed
T
Tor Project blog
Y
Y Combinator Blog
有赞技术团队
有赞技术团队
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
G
GRAHAM CLULEY
The Hacker News
The Hacker News
N
News and Events Feed by Topic
I
Intezer
The GitHub Blog
The GitHub Blog
S
SegmentFault 最新的问题
T
The Blog of Author Tim Ferriss
PCI Perspectives
PCI Perspectives
S
Secure Thoughts
P
Proofpoint News Feed
Microsoft Security Blog
Microsoft Security Blog
IT之家
IT之家
T
Threat Research - Cisco Blogs
J
Java Code Geeks
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
D
DataBreaches.Net
Hacker News - Newest:
Hacker News - Newest: "LLM"
Last Week in AI
Last Week in AI
H
Help Net Security
L
LangChain Blog
大猫的无限游戏
大猫的无限游戏
Help Net Security
Help Net Security
S
Schneier on Security
T
The Exploit Database - CXSecurity.com
Google Online Security Blog
Google Online Security Blog
Cyberwarzone
Cyberwarzone
T
Tailwind CSS Blog
V
Vulnerabilities – Threatpost
Forbes - Security
Forbes - Security
Apple Machine Learning Research
Apple Machine Learning Research
O
OpenAI News
AWS News Blog
AWS News Blog
月光博客
月光博客

DEV Community

Authentication Security Deep Dive: From Brute Force to Salted Hashing (With Java Examples) Why AI Systems Don’t Fail — They Drift Spilling beans for how i learn for exam😁"Reinforcement Learning Cheat Sheet" I Replaced Chrome with Safari for AI Browser Automation. Here's What Broke (and What Finally Worked) How Python Borrows Other People's Work The $40 Architecture: Processing 1 Billion API Requests with 99.99% Uptime Vibe Coding: A Workflow Guide (From Zero to SaaS) Most webhook security guides protect the wrong side. The scary part is delivery. Headless CMS for TanStack Start: Build a Blog with Cosmic EU Age Verification App "Hacked in 2 Minutes" — What Actually Happened Comfy Cloud’s delete function does not actually remove files Running AI Models on GPU Cloud Servers: A Beginner Guide Event-driven media intelligence with AWS Step Functions and Bedrock I scored 500 AI prompts across 8 quality dimensions — here's what broke How to Call Google Gemini API from Next.js (Free Tier, No Backend Needed) The Portal Protocol: Reclaiming Human Connection in the Age of AI How to Fix Your Team's Scattered Knowledge Problem With a Self-Hosted Forum Intro to tc Cloud Functors: A Graph-First Mental Model for the Modern Cloud Designing Multi-Tenant Backends With Both Ownership and Team Access I Built a Neumorphic CSS Library with 77+ Components — Here's What I Learned PostgreSQL Performance Optimization: Why Connection Pooling Is Critical at Scale Cómo construí un SaaS multi-rubro para gestionar expensas en Argentina con FastAPI + Vue 3 🚀 I Built an Ethical Hacking Scanner Tool – Open Source Project I Replaced /usage and /context in Claude Code With a Single Statusline A Pythonic Way to Handle Emails (IMAP/SMTP) with Auto-Discovery and AI-Ready Design I Collected 8.9 Million Polymarket Price Points — Here's What I Found About How Markets Really Move EcoTrack AI — Carbon Footprint Tracker & Dashboard Everyone's Using AI. No One Agrees How. 5 self-hosted ebook managers worth trying in 2026 Building Your First AI Agent with LangChain: From Chatbot to Autonomous Assistant Common SOC 2 Failures (Real World) Stop Vibe-Checking Your AI App: A Practical Guide to Evals How to Use SonarQube and SonarScanner Locally to Level Up Your Code Quality Your Next To-Do App Is Dead — I Replaced Mine with an OpenClaw AI Sign a Nostr event in 60 lines of Python using coincurve — no nostr-sdk, no nbxplorer, no rust toolchain ITGC Audit Explained Like You’re in Big 4 Patch Tuesday abril 2026: Microsoft parcha 163 vulnerabilidades y un zero-day en SharePoint Stop scraping everything: a better way to track competitor price changes Listing on MCPize + the Official MCP Registry while routing payments OUTSIDE the marketplace — how I kept 100% of my x402 revenue Building an AI-Powered Risk Intelligence System Using Serverless Architecture Why We Ripped Function Overloading Out of Our AI Toolchain Testing AI-Generated Code: How to Actually Know If It Works SaaS Churn Is Killing Your Business. Here Is What to Do About It (Without a Support Team) The Speed of AI Is No Longer Linear - And Self-Improving Models Are Why How to Implement RBAC for MCP Tools: A Practical Guide for Engineering Teams From Standard Quote to Persuasive Proposal: AI Automation for Arborists I built a CLI that scaffolds complete multi-tenant SaaS apps Axios CVE-2025–62718: The Silent SSRF Bug That Could Be Hiding in Your Node.js App Right Now The dashboard that ended our friendship Data Pipelines Explained Simply (and How to Build Them with Python) The Hidden Cost of AI Systems Nobody Talks About. undefined vs undeclared, and how typeof behaves Switching from file-based jobs to NATS/Kafka in Rust without changing code io_uring Adventures: Rust Servers That Love Syscalls Why Agentic AI is Killing the Traditional Database The POUR principles of web accessibility for developers and designers Quantum Neural Network 3D — A Deep Dive into Interactive WebGL Visualization How To Install Caveman In Codex On macOS And Windows Automation Pipeline Reliability: Why Your Workflow Breaks When Nobody Is Watching I Built an 'Open World' AI Coding Agent — It Works From ANY Folder From Freelancing to Product: A Tech Service Company's SaaS Transformation China's AI Giants: Adding Tencent Hunyuan & ByteDance Doubao to AI University (74 Providers) On the Vibe Coders and Their Lies clerk: Auto-Summarize Your Claude Code Sessions AI Weekly — 2026/04/10–04/17 | The Model Lockdown Is Here, but the Toolchain Is the Real Battleground AI 週報 — 2026/04/10–2026/04/17 模型封鎖潮來了,但工具鏈才是真戰場 Maybe this is how Open-Source apps are born... 🚀 Fine-Tune LLMs with LoRA and QLoRA: 2026 Guide tRPC v11 + Next.js App Router: End-to-End Type Safety Without the Boilerplate ShadCN UI in 2026: Why I Stopped Installing Component Libraries and Started Owning My Components SaaS Billing in React Server Components: Stripe + Supabase Without a Single `useEffect` Join our DEV Weekend Challenge — $1,000 in Prizes Across TEN winners! Submissions Due April 20 at 6:59 AM UTC. Implementing FSRS Spaced Repetition in Flutter + Supabase — Adding Memory Science to an AI Learning App "I Texted My Localhost From the Train — Claude Code Fixed the Bug Before I Got Home" I Built a Sales Prep AI and It Went Deeper Than Expected Design to Code #2: One JSON, Eleven Outputs Solving the 100M-Row Problem: A Summary Table Pattern for High-Volume Push Notification Logs Flutter Web With Wasm: What Actually Changes For Developers I Built 50 Royalty-Free Soundtracks for My Side Project in a Weekend Using AI Music Generation The Vibe Coding Security Checklist: 7 Things to Check Before You Ship Stop Letting Googlebot Guess Fix Your React App's SEO Right Desconstruindo o Streaming do LinkedIn: Como Criar um Engine de Extração de Vídeo de Alta Performance com HLS e FFmpeg (EDA Part-1) EDA (Exploratory Data Analysis) Explained With Real Life — Why Looking at Your Data Is the Most Important Step in Machine Learning Brand Relationship Management at Scale: Our 4-Touch Outreach System for 200+ Brands Why String.fromEnvironment() Might Return an Empty String in Dart JGuardrails 1.0.0 — Hardening Java LLM Apps Against Jailbreaks, Toxicity, and Prompt Injection Plan and Schedule a Full Week of Threads Content From One Claude Conversation Coding Cat Oran Ep3, Five Tables Changed Everything Updated: BFF Pattern I'm done watching freelancers get buried by 200 proposals. So I'm building the alternative. This is my first post BFS Algorithm in Java Step by Step Tutorial with Examples Tracking LLM Pricing Monthly: An Open Dataset for 22 AI Models How We Measure Content ROI on a Comparison Site: Revenue Attribution Without Perfect Data Introducing Nova AI Ops: The AI-Native Operating System for SRE Teams I built a free desktop video downloader for Windows — Grabbit How Talkie OCR Helps Vision-Impaired & Dyslexic Users Read the World Around Them VRCFaceTracking安装和iPhone面捕配置教程,有bug Even CrowdStrike Can't See Your Agents The Automation Gold Rush: What n8n Workflows and Claude Are Opening Up for Developers Right Now
Membedah Arsitektur Pengiriman Media Telegram: Membangun Engine Ekstraksi Berkinerja Tinggi dengan MTProto dan Async I/O
yqqwe · 2026-05-01 · via DEV Community

Pendahuluan

Sebagai pengembang, kita sering terpukau oleh bagaimana platform berskala global mengelola dan mendistribusikan data multimedia dalam jumlah masif. Telegram bukan sekadar aplikasi pesan instan; dari sudut pandang rekayasa, ini adalah sistem penyimpanan objek terdistribusi kolosal yang dibangun di atas protokol enkripsi khusus yang dikenal sebagai MTProto.
Namun, bagi pengembang yang membangun alat pengarsipan berbasis web atau pengguna yang perlu mengekstrak aset secara lintas platform, ekosistem "taman bertembok" Telegram (terutama protokol biner dan manajemen sesi yang ketat) menghadirkan tantangan signifikan. Untuk menjembatani celah ini, saya mengembangkan Telegram Video Downloader.
Dalam postingan ini, kita akan menyelami "kotak hitam" teknisnya: mulai dari reverse engineering interaksi MTProto, optimasi algoritma pengunduhan terfragmentasi, hingga penggunaan server-side streaming untuk menembus batas kecepatan sambil menjaga integritas file asli.

1. Protokol di Balik Layar: Memahami MTProto

Berbeda dengan distribusi sumber daya web tipikal yang berbasis HTTP/HTTPS, inti dari Telegram adalah protokol MTProto. Saat pengguna mengklik "unduh" pada sebuah video, klien tidak sekadar melakukan GET URL. Ia menginisiasi serangkaian permintaan RPC (Remote Procedure Call) yang kompleks.
1.1 Sharding File dan Pusat Data (DC)
Dalam arsitektur dasar Telegram, file besar dipotong-potong menjadi blok-blok berukuran tetap yang disebut "chunks". Setiap file dikaitkan dengan access_hash yang unik dan disimpan di Pusat Data (Data Center - DC) tertentu.
• Pemetaan DC: Video mungkin disimpan di DC1 hingga DC5 yang tersebar secara global.
• Segmented Fetching: Klien harus menghitung offset dan limit berdasarkan ukuran total file untuk meminta data blok demi blok.
Tantangan Rekayasa: Engine pengunduhan berkinerja tinggi tidak bisa hanya mengandalkan Telegram Bot API. Bot API memiliki batasan ketat pada ukuran file (2GB) dan pembatasan kecepatan (throttling) yang signifikan. Engine kami mengatasi hal ini dengan mensimulasikan UserSession, berkomunikasi langsung dengan lingkungan DC produksi Telegram untuk menghilangkan hambatan perantara API.

2. Reverse Engineering: Memetakan Jalur Web ke ID Media

Kebanyakan pengguna ingin mengunduh video menggunakan tautan saluran atau grup Telegram yang sederhana. Ini melibatkan lapisan terjemahan dari pratinjau web publik ke ID Media internal.
2.1 Ekstraksi Metadata
Saat pengguna memasukkan tautan seperti t.me/channel/123, backend kami pertama-tama menggunakan klien HTTP ringan untuk mengikis tag OpenGraph halaman tersebut. Namun, pratinjau web biasanya hanya menyediakan stream atau thumbnail beresolusi rendah. Untuk mengambil video asli 1080p atau bahkan 4K, kami menerapkan algoritma pemetaan:

  1. Peer Identification: Menyelesaikan pengidentifikasi saluran.
  2. MessageID Addressing: Menentukan lokasi pesan yang tepat.
  3. Media Object Extraction: Mengambil objek document yang berisi sidik jari file, ukuran, dan tipe MIME.

3. Arsitektur Backend: Konkurensi Tinggi melalui Async I/O

Untuk menangani permintaan unduhan global, backend Telegram Downloader sepenuhnya meninggalkan model permintaan pemblokiran tradisional dan memilih stack Python Asyncio + Telethon (Customized) + Redis yang sepenuhnya asinkron.
3.1 Akselerasi Segmen Asinkron
Unduhan sekuensial tradisional mengakibatkan waktu tunggu I/O yang parah. Kami mengembangkan Algoritma Parallel Sliding Window:
• Paralelisme Multi-Koneksi: Untuk file video yang sama, kami membuka beberapa koneksi ke DC.
• Out-of-order Request, In-order Assembly: Kami secara bersamaan meminta chunk 1-5 dan menyusunnya kembali dalam buffer secara berurutan.
• Streaming Write-out: Yang terpenting, kami tidak menyimpan seluruh video di RAM. Menggunakan StreamingResponse, data yang tiba dari DC Telegram segera diteruskan ke pengguna akhir melalui protokol HTTP.
Metrik Teknis: Arsitektur "pipa langsung" ini mengurangi overhead memori server hingga lebih dari 90% dan secara signifikan menurunkan Time to First Byte (TTFB).

4. Mengatasi Batas Kecepatan Telegram (Flood Wait)

Telegram sangat sensitif terhadap permintaan lalu lintas besar dalam interval singkat, yang memicu kesalahan FloodWaitError.
4.1 Penjadwalan Cerdas dan Load Balancing
Untuk memastikan stabilitas layanan, kami menerapkan beberapa strategi:
• Multi-Account Pooling: Melalui penyimpanan sesi terdistribusi, kami menyebarkan permintaan ke beberapa node penyeimbang beban.
• Exponential Backoff: Saat sistem mendeteksi tekanan tinggi pada DC tertentu, ia secara otomatis beralih ke node standby dan menjalankan penundaan percobaan ulang tingkat mikrodetik.
• Caching Metadata dengan Redis: Untuk unduhan berulang dari sumber daya populer, sistem membaca properti file langsung dari cache, mengurangi interaksi redundan dengan DC Telegram.

5. Pemrosesan Sisi Server: Lossless Muxing dengan FFmpeg

Beberapa video Telegram ada sebagai stream audio dan video terpisah, atau menggunakan kontainer yang tidak ramah web.
5.1 Integrasi Pipeline Real-time FFmpeg
Kami menyalurkan aliran data yang diunduh langsung ke FFmpeg secara real-time:
• Lossless Muxing: Selama pengkodean video (misalnya H.264/H.265) mengikuti standar modern, kami hanya melakukan operasi -c copy. Ini berarti kami hanya mengubah kontainer (misalnya dari .mkv ke .mp4) tanpa menghitung ulang piksel.
• Konversi Milidetik: Konversi ini sangat ringan bagi CPU dan selesai hampir seketika, memastikan pengguna mendapatkan file MP4 yang dapat diputar di perangkat apa pun segera.

6. Optimasi Front-End: Filosofi Utility-First

Pengembangan front-end mengikuti prinsip "kecepatan ekstrem":
• Vanilla JS: Kami menghindari framework berat untuk memastikan halaman dimuat secara instan bahkan dalam kondisi jaringan yang buruk.
• Dukungan PWA: Situs ini mendukung spesifikasi Progressive Web App, memungkinkan pengguna untuk "menginstal" situs ke desktop mereka untuk pengalaman interaksi seperti aplikasi asli.
• Keamanan: Semua logika parsing dienkapsulasi di sisi server; pengguna tidak perlu menginstal ekstensi browser yang berisiko.

7. Kesimpulan dan Prospek Proyek

Membangun alat berkinerja tinggi seperti Telegram Video Downloader bukan sekadar tugas skrip sederhana; ini adalah latihan dalam memahami protokol modern, I/O jaringan, dan penjadwalan sumber daya. Dengan mengoptimalkan interaksi MTProto dan memanfaatkan arsitektur backend asinkron, kami telah mencapai ekstraksi aset 4K yang hampir instan.
Jika Anda adalah pengembang yang mencari cara yang bersih, tanpa iklan, dan solid secara teknis untuk mengarsipkan aset video Telegram Anda, jangan ragu untuk mencoba alat kami.
👉 URL Proyek: Telegram Video Downloader (Versi Indonesia)
Ringkasan Stack Teknis:
• Backend: Python / Django / Redis / FFmpeg
• Core: Implementasi MTProto yang dikustomisasi
• Architecture: Asyncio / Slotted Concurrent Fetching
• Frontend: HTML5 / Tailwind CSS / Vanilla JS
• Infrastructure: Cloudflare / Nginx / Docker
Punya pertanyaan tentang logika distribusi file MTProto atau penanganan stream FFmpeg? Mari berdiskusi di kolom komentar!

WebDev #Telegram #Python #FFmpeg #OpenSource #Programming #VideoStreaming #DevTools #IndonesianDevelopers