JSON ve API ile Veri Çekme: requests, httpx ve aiohttp

JSON API ile Veri Çekme: Kapsamlı Rehber

Modern web uygulamalarının çoğu, verileri JSON formatında sunan API'ler üzerinden çalışır. HTML scraping'e kıyasla JSON API'lerinden veri çekmek çok daha verimli ve güvenilirdir çünkü veriler zaten yapılandırılmış formattadır ve parsing gerektirmez. Bu rehberde Python'ın requests, httpx ve aiohttp kütüphanelerini karşılaştırarak JSON API scraping tekniklerini ve proxy entegrasyonunu detaylı olarak ele alacağız.

Web Scraping Proxy kullanarak API isteklerinizi farklı IP adresleri üzerinden göndermek, rate limiting ve IP engelleme riskini minimize eder. Web Scraping API hizmetimiz ise tüm API scraping sürecini otomatize eder.

requests vs httpx vs aiohttp Karşılaştırması

Python ekosisteminde JSON API istekleri için üç ana kütüphane öne çıkar:

• requests: En popüler ve kullanımı en kolay HTTP kütüphanesidir. Senkron çalışır ve basit projelerde idealdir. Proxy desteği yerleşiktir. Python Requests proxy rehberimiz detaylı bilgi sunmaktadır.
• httpx: requests'in modern alternatifidir. Hem senkron hem asenkron (async) kullanımı destekler. HTTP/2 desteği sunar ve proxy yapılandırması requests ile benzerdir.
• aiohttp: Tamamen asenkron bir HTTP kütüphanesidir. asyncio ile birlikte kullanılır ve yüksek eşzamanlı istek senaryolarında en yüksek performansı sunar.

requests ile JSON API Scraping

import requests

proxies = {
    "http": "http://user:[email protected]:7777",
    "https": "http://user:[email protected]:7777",
}

# JSON API istegi
response = requests.get(
    "https://api.example.com/v1/products",
    proxies=proxies,
    params={"page": 1, "limit": 50},
    headers={"Accept": "application/json"},
    timeout=30,
)

data = response.json()
for product in data.get("results", []):
    print(f"{product['name']}: {product['price']}")

requests kütüphanesi, response.json() metodu ile yanıtı otomatik olarak Python sözlüğüne dönüştürür. params parametresi URL query string'ini oluşturur.

httpx ile Asenkron JSON API Scraping

import httpx
import asyncio

async def fetch_api(client, page):
    response = await client.get(
        "https://api.example.com/v1/products",
        params={"page": page, "limit": 50},
    )
    return response.json()

async def main():
    proxy = "http://user:[email protected]:7777"
    async with httpx.AsyncClient(
        proxy=proxy,
        timeout=30.0,
        headers={"Accept": "application/json"}
    ) as client:
        tasks = [fetch_api(client, p) for p in range(1, 11)]
        results = await asyncio.gather(*tasks)

    all_products = []
    for data in results:
        all_products.extend(data.get("results", []))

    print(f"Toplam {len(all_products)} urun toplandi")

asyncio.run(main())

httpx'in AsyncClient yapısı, birden fazla API sayfasını eşzamanlı olarak sorgulamaya olanak tanır. asyncio.gather ile paralel istekler göndererek toplam veri toplama süresini önemli ölçüde kısaltabilirsiniz.

aiohttp ile Yüksek Performanslı Scraping

import aiohttp
import asyncio

async def fetch_page(session, page):
    async with session.get(
        "https://api.example.com/v1/products",
        params={"page": page, "limit": 50},
    ) as response:
        return await response.json()

async def main():
    proxy = "http://user:[email protected]:7777"
    connector = aiohttp.TCPConnector(limit=20)
    async with aiohttp.ClientSession(
        connector=connector,
        headers={"Accept": "application/json"}
    ) as session:
        tasks = [fetch_page(session, p) for p in range(1, 51)]
        results = await asyncio.gather(*tasks)

    total = sum(len(r.get("results", [])) for r in results)
    print(f"Toplam {total} urun toplandi")

asyncio.run(main())

aiohttp, yüksek eşzamanlılık senaryolarında en iyi performansı sunar. TCPConnector ile bağlantı havuzu boyutunu kontrol ederek sistem kaynaklarını verimli kullanabilirsiniz.

API Rate Limit Yönetimi

JSON API'leri genellikle katı rate limit politikaları uygular. Etkili rate limit yönetimi için:

• Response Header Kontrolü: X-RateLimit-Remaining ve Retry-After header'larını izleyin.
• Adaptif Hız Kontrolü: Kalan kota düştükçe istek hızını otomatik olarak azaltın.
• IP Rotasyonu: Rotating proxy ile her istekte farklı IP kullanarak IP bazlı rate limit'leri dağıtın.
• Exponential Backoff: Hata durumlarında bekleme süresini katlanarak artırın.

ProxyTurk'ün 131.072 ISP IP adresi havuzu, API rate limit'lerini etkili bir şekilde yönetmenizi sağlar. SOCKS5 proxy desteği ile ek güvenlik ve gizlilik sağlanır. HTTP 429 çözüm rehberimiz rate limit stratejilerini kapsamlı ele almaktadır.

API Örnekleri sayfamızda ProxyTurk API kullanım örneklerini inceleyebilirsiniz.

Pratik Uygulama Senaryoları ve İleri Seviye Stratejiler

Bu konuda başarılı sonuçlar elde etmek için çeşitli pratik stratejiler uygulanabilir. Öncelikle test ortamında küçük ölçekli denemeler yaparak yapılandırmanızın doğru çalıştığını doğrulayın. Ardından ölçeği kademeli olarak artırarak performans darboğazlarını ve potansiyel sorunları erken aşamada tespit edin.

Loglama ve izleme mekanizmaları kurmak, uzun süreli operasyonlarda kritik öneme sahiptir. Her isteğin başarı durumu, yanıt süresi, kullanılan proxy IP'si ve dönen HTTP durum kodu kayıt altına alınmalıdır. Bu veriler performans analizi, hata tespiti ve optimizasyon süreçleri için vazgeçilmezdir. Python'da logging modülü, Node.js'te winston veya pino, Go'da zerolog gibi kütüphaneler profesyonel loglama altyapısı oluşturmanıza yardımcı olur.

Veri doğrulama (validation) aşaması, toplanan verilerin kalitesini garanti eder. Beklenen veri formatlarını, zorunlu alanları ve değer aralıklarını kontrol eden doğrulama kuralları tanımlayın. Geçersiz veya eksik veriler tespit edildiğinde ilgili sayfanın yeniden taranmasını otomatik olarak tetikleyen bir mekanizma kurabilirsiniz.

Proxy performansını sürekli izlemek ve optimum yapılandırmayı bulmak için A/B testi yaklaşımı uygulanabilir. Farklı proxy türlerini (HTTP vs SOCKS5), rotasyon stratejilerini (istek bazlı vs zaman bazlı) ve istek hızlarını karşılaştırarak projenize en uygun konfigürasyonu belirleyin.

Hedef sitenin yapısındaki değişiklikleri otomatik olarak tespit eden bir izleme sistemi kurmak, scraping pipeline'ınızın sürdürülebilirliğini artırır. HTML yapısı değiştiğinde, API endpoint'leri güncellendiğinde veya yeni güvenlik mekanizmaları devreye girdiğinde uyarı alan bir sistem, bakım maliyetlerini önemli ölçüde azaltır.

ProxyTurk'ün sunduğu gelişmiş özellikler arasında webhook desteği, kullanım istatistikleri API'si ve özel IP havuzu oluşturma imkanı yer almaktadır. Bu özellikler kurumsal düzeyde scraping projelerinin yönetimini kolaylaştırır ve operasyonel verimliliği artırır.

Otomasyon süreçlerinizi container teknolojileri (Docker, Kubernetes) ile paketleyerek taşınabilirlik ve ölçeklenebilirlik sağlayabilirsiniz. Her container'a farklı proxy yapılandırması atanabilir ve Kubernetes'in otomatik ölçekleme özelliği ile iş yüküne göre container sayısı dinamik olarak ayarlanabilir.

Etik ve yasal uyumluluk konusu, tüm web scraping projelerinde göz önünde bulundurulmalıdır. Hedef sitenin robots.txt kurallarına ve kullanım koşullarına uyum sağlamak, kişisel verilerin işlenmesinde GDPR ve KVKK gibi düzenlemelere riayet etmek ve sunucu kaynaklarını aşırı tüketmekten kaçınmak temel sorumluluklardır.

Kapsamlı Güvenlik ve Anonimlik Rehberi

Web scraping projelerinde güvenlik ve anonimlik, başarılı operasyonların temel taşıdır. IP adresi gizleme tek başına yeterli değildir; tarayıcı parmak izi, TLS yapılandırması, HTTP header tutarlılığı ve davranış kalıpları gibi birçok faktör bir bütün olarak yönetilmelidir. Çok katmanlı bir güvenlik stratejisi, tespit riskini minimum seviyeye indirir ve uzun süreli veri toplama operasyonlarının kesintisiz devam etmesini sağlar.

Proxy zinciri (proxy chain) kullanarak trafiğinizi birden fazla proxy sunucusu üzerinden yönlendirebilirsiniz. Bu teknik, herhangi bir tek noktanın gerçek IP adresinizi bilmesini engeller. Ancak her ek proxy atlama noktası gecikme süresini artıracağından, performans ve güvenlik arasında bir denge kurmanız gerekir. Çoğu web scraping senaryosu için tek katmanlı yüksek kaliteli ISP proxy yeterlidir.

DNS sızıntıları, proxy kullanırken en sık gözden kaçan güvenlik açığıdır. Proxy üzerinden HTTP trafiği yönlendirilirken DNS sorguları yerel DNS sunucusu üzerinden yapılabilir ve bu durum gerçek konumunuzu ifşa edebilir. SOCKS5 proxy'nin uzak DNS çözümlemesi (remote DNS) özelliği bu sorunu çözer. Alternatif olarak DNS-over-HTTPS kullanarak DNS trafiğinizi şifreleyebilirsiniz.

WebRTC sızıntıları da tarayıcı tabanlı scraping projelerinde dikkat edilmesi gereken bir konudur. WebRTC protokolü, proxy ayarlarından bağımsız olarak gerçek IP adresinizi ifşa edebilir. Headless tarayıcılarda WebRTC'yi devre dışı bırakmak veya sahte IP bilgileri enjekte etmek bu riski ortadan kaldırır.

Veri Toplama Pipeline Mimarisi

Profesyonel web scraping projeleri, modüler bir pipeline mimarisi üzerine kurulmalıdır. Tipik bir pipeline şu aşamalardan oluşur: URL keşfi ve kuyruklama, HTTP isteği gönderme ve yanıt alma, HTML veya JSON parsing, veri doğrulama ve temizleme, depolama ve raporlama. Her aşama bağımsız olarak çalışabilmeli ve hata durumlarında diğer aşamaları etkilememelidir.

URL kuyruk yönetimi için Redis, RabbitMQ veya Apache Kafka gibi mesaj kuyrukları kullanılabilir. Bu yapı, birden fazla worker'ın aynı kuyruğu tüketmesine ve yatay ölçeklenmesine olanak tanır. Her worker farklı bir proxy ile çalışarak doğal IP rotasyonu sağlar.

Veri depolama stratejisi, projenin ölçeğine ve gereksinimlerine bağlıdır. Küçük ölçekli projeler için JSON veya CSV dosyaları yeterli olabilirken, büyük ölçekli projelerde PostgreSQL, MongoDB veya Elasticsearch gibi veritabanları tercih edilmelidir. Elasticsearch özellikle tam metin arama ve analitik sorgulamalarda avantaj sağlar.

İzleme ve uyarı sistemi, pipeline'ın sağlığını sürekli kontrol eder. İstek başarı oranı, ortalama yanıt süresi, toplanan veri miktarı ve hata sayısı gibi metrikler dashboard'da görselleştirilmelidir. Prometheus ve Grafana kombinasyonu, açık kaynak bir izleme altyapısı oluşturmak için idealdir.

Yaygın Sorunlar ve Çözüm Yöntemleri

Web scraping projelerinde en yaygın sorunlardan biri, hedef sitenin yapısında yapılan değişikliklerdir. HTML seçicilerin değişmesi, API endpoint'lerinin güncellenmesi veya yeni güvenlik mekanizmalarının devreye girmesi, mevcut scraping kodunuzun çalışmamasına neden olabilir. Bu tür değişiklikleri erken tespit etmek için otomatik izleme ve uyarı mekanizmaları kurmalısınız.

Ağ bağlantı sorunları (timeout, connection reset, DNS çözümleme hatası) büyük ölçekli projelerde sıklıkla karşılaşılan engellerdir. Sağlam bir retry mekanizması, exponential backoff stratejisi ve proxy failover sistemi bu sorunları otomatik olarak çözer. ProxyTurk'ün yüksek uptime oranı ve 800-900 Mbit bant genişliği, ağ kaynaklı sorunları minimize eder.

Bellek sızıntıları (memory leak) uzun süreli scraping operasyonlarında ciddi sorunlara yol açabilir. Özellikle tarayıcı tabanlı otomasyon projelerinde her oturumun düzgün şekilde kapatılması, kullanılmayan nesnelerin serbest bırakılması ve periyodik garbage collection tetiklenmesi önemlidir. Bellek kullanımını düzenli olarak izleyin ve eşik değeri aşıldığında worker'ı yeniden başlatın.

Karakter kodlama sorunları, farklı dillerdeki web sitelerinden veri toplarken karşılaşılabilir. UTF-8 dışında kodlama kullanan siteler için response.encoding özniteliğini doğru ayarlamak ve chardet gibi kütüphanelerle otomatik kodlama tespiti yapmak veri tutarlılığını sağlar.

Anti-scraping mekanizmaları giderek daha sofistike hale gelmektedir. Yapay zeka tabanlı bot algılama, canvas fingerprinting, WebGL fingerprinting ve audio fingerprinting gibi ileri teknikler kullanılmaktadır. Bu mekanizmalara karşı tek bir çözüm yerine çok katmanlı bir strateji uygulanmalıdır: ISP proxy kullanımı, gerçek tarayıcı emülasyonu, doğal davranış simülasyonu ve TLS parmak izi yönetimi birlikte uygulanmalıdır.

Gerçek Dünya Kullanım Senaryoları

E-ticaret fiyat izleme projeleri, proxy kullanımının en yaygın senaryolarından biridir. Rakip firmaların ürün fiyatlarını düzenli aralıklarla tarayarak pazar analizi yapabilir, fiyat değişikliklerini takip edebilir ve rekabetçi fiyatlandırma stratejileri geliştirebilirsiniz. Bu tür projeler genellikle günde binlerce sayfanın taranmasını gerektirir ve proxy rotasyonu olmadan sürdürülebilir değildir. ProxyTurk'ün 131.072 ISP IP adresi, e-ticaret sitelerinin bot algılama sistemlerinden kaçınmanızı sağlar.

Emlak ve gayrimenkul sektöründe ilan verilerinin toplanması, pazar trendlerini analiz etmek ve yatırım fırsatlarını tespit etmek için yaygın olarak kullanılmaktadır. İlan siteleri genellikle agresif bot koruması uygular ve datacenter IP'lerini otomatik olarak engeller. ISP proxy kullanarak gerçek bir kullanıcı profili oluşturmak, bu engelleri aşmanın en etkili yoludur.

İş ilanları ve istihdam verileri, insan kaynakları analitiği ve iş gücü piyasası araştırmaları için değerli bilgiler sunar. LinkedIn, Indeed ve Glassdoor gibi platformlardan veri toplamak gelişmiş proxy stratejileri ve dikkatli rate limit yönetimi gerektirir. Her platformun kendine özgü güvenlik mekanizmaları olduğundan, platforma özel yapılandırma gereklidir.

Sosyal medya izleme ve duygu analizi projeleri, marka yönetimi ve pazarlama stratejileri için kritik içgörüler sağlar. Twitter, Instagram ve Facebook gibi platformlardan paylaşım verilerini toplamak, coğrafi trendleri analiz etmek ve kullanıcı duygu durumunu ölçmek için proxy tabanlı veri toplama altyapısı gereklidir.

Akademik araştırma ve bilimsel veri toplama projelerinde web scraping, büyük ölçekli veri setleri oluşturmak için kullanılmaktadır. Araştırma makaleleri, patent veritabanları, tıbbi literatür ve hükümet verileri gibi kaynaklar, yapılandırılmış formatta toplandığında güçlü analitik çalışmalar için zemin oluşturur.

Ölçeklendirme ve Yüksek Kullanılabilirlik

Küçük ölçekli bir scraping projesinden kurumsal düzeyde bir veri toplama platformuna geçiş, mimari düzeyde önemli kararlar gerektirir. Yatay ölçekleme stratejisi, iş yükünü birden fazla worker arasında dağıtarak throughput'u artırır. Her worker bağımsız bir proxy havuzuyla çalışır ve merkezi bir kuyruk sisteminden görev alır.

Dağıtık mimari tasarımında lider seçimi (leader election), iş bölümü (work distribution) ve sonuç birleştirme (result aggregation) gibi kavramlar önem kazanır. Apache Airflow veya Prefect gibi iş akışı orkestrasyon araçları, karmaşık scraping pipeline'larını zamanlama, izleme ve yönetme işlemlerini kolaylaştırır.

Hata toleransı (fault tolerance) ve yüksek kullanılabilirlik (high availability), üretim ortamlarında kritik gereksinimlerdir. Worker çökmesi durumunda görevlerin otomatik olarak yeniden atanması, checkpoint mekanizması ile ilerlemenin kaydedilmesi ve sağlık kontrolü (health check) ile sorunlu bileşenlerin tespit edilmesi gerekir.

Maliyet optimizasyonu, büyük ölçekli projelerde göz ardı edilmemesi gereken bir faktördür. Proxy kullanım maliyetleri, altyapı giderleri (sunucu, depolama, ağ), geliştirme ve bakım süreleri ile veri kalitesi arasında bir denge kurulmalıdır. ProxyTurk'ün esnek fiyatlandırma modeli, farklı ölçeklerdeki projelere uygun çözümler sunar.

Cache stratejileri, tekrarlanan isteklerin sayısını azaltarak hem proxy trafiğini hem de hedef site yükünü düşürür. Daha önce taranan ve değişme olasılığı düşük olan sayfalar için yerel cache kullanılabilir. Cache geçerlilik süreleri (TTL), veri tazeliği gereksinimlerine göre ayarlanmalıdır.

Veri kalite kontrol mekanizmaları, toplanan verilerin doğruluğunu ve tutarlılığını garanti eder. Eksik alanlar, hatalı formatlar, yinelenen kayıtlar ve çelişkili değerler gibi sorunları otomatik olarak tespit eden doğrulama kuralları tanımlanmalıdır. Kalite puanı hesaplayarak her scraping oturumunun başarısını ölçebilirsiniz.

Endüstri Standartları ve En İyi Uygulamalar

Profesyonel web scraping operasyonlarında endüstri standartlarına uyum, sürdürülebilir ve başarılı projelerin temelini oluşturur. Veri toplama süreçlerinizde şeffaflık, tekrarlanabilirlik ve ölçülebilirlik ilkelerini benimsemek, hem operasyonel verimliliği artırır hem de yasal uyumluluğu sağlar. Her scraping oturumunun ayrıntılı loglarını tutmak, hangi sayfaların ne zaman tarandığını, hangi verilerin toplandığını ve hangi hataların oluştuğunu izlemenize olanak tanır.

Proxy yönetimi konusunda en iyi uygulama, hiçbir zaman tek bir proxy türüne veya sağlayıcıya bağımlı kalmamaktır. Çoklu proxy stratejisi, farklı proxy türlerini farklı görevler için kullanmayı içerir. ISP proxy'ler yüksek güvenlik gerektiren senaryolarda, datacenter proxy'ler hız öncelikli görevlerde ve residential proxy'ler ise coğrafi çeşitlilik gerektiren durumlarda tercih edilebilir. ProxyTurk'ün çoklu proxy türü desteği bu stratejiyi uygulamanızı kolaylaştırır.

Veri saklama ve gizlilik politikaları, özellikle kişisel veri içerebilecek scraping projelerinde büyük önem taşır. GDPR, KVKK ve diğer veri koruma düzenlemeleri, toplanan verilerin nasıl saklanacağını, işleneceğini ve silineceğini düzenler. Kişisel bilgileri mümkün olduğunca minimize edin, anonimleştirme teknikleri uygulayın ve veri saklama sürelerine uygun bir politika belirleyin.

Otomatik test ve sürekli entegrasyon (CI/CD) pratikleri, scraping kodunuzun güvenilirliğini artırır. Birim testleri ile her parsing fonksiyonunun doğru çalışıp çalışmadığını doğrulayabilir, entegrasyon testleri ile tam pipeline'ın uçtan uca çalışmasını test edebilir ve regresyon testleri ile mevcut işlevselliğin korunduğunu garanti edebilirsiniz.

Performans benchmark'ları oluşturarak proxy ve scraping yapılandırmanızın optimum seviyede çalışıp çalışmadığını düzenli olarak değerlendirin. Saniye başına istek sayısı, ortalama yanıt süresi, başarılı istek oranı ve toplanan veri hacmi gibi temel performans göstergelerini (KPI) izleyin ve hedef değerlerle karşılaştırın.

Dokümantasyon, özellikle ekip çalışmasında kritik bir bileşendir. Proxy yapılandırması, scraping kuralları, veri şeması ve hata yönetimi prosedürleri detaylı olarak belgelenmeli ve güncel tutulmalıdır. README dosyaları, API dokümantasyonu ve runbook'lar, yeni ekip üyelerinin hızla projeye adapte olmasını sağlar.

Son olarak, web scraping teknolojileri sürekli gelişmektedir. Yeni tarayıcı API'leri, gelişmiş bot algılama mekanizmaları ve değişen yasal düzenlemeler, scraping stratejilerinizi düzenli olarak güncellemenizi gerektirir. Endüstri bloglarını, güvenlik bültenlerini ve topluluk forumlarını takip ederek güncel kalmanız önemlidir. ProxyTurk olarak müşterilerimize en güncel proxy teknolojileri ve en iyi uygulamalar konusunda sürekli destek sağlamaktayız.

ProxyTurk Altyapısı ve Teknik Avantajlar

ProxyTurk, Türkiye'nin lider proxy altyapı sağlayıcısı olarak 131.072 ISP IP adresi, SOCKS5 ve HTTP/HTTPS protokol desteği, 800-900 Mbit bant genişliği ve %99.9 uptime garantisi sunmaktadır. Bu teknik altyapı, hem bireysel geliştiriciler hem de kurumsal düzeyde veri toplama operasyonları için ideal performans ve güvenilirlik sağlar. API tabanlı proxy yönetimi, webhook bildirimleri ve detaylı kullanım analitiği gibi gelişmiş özellikler, operasyonel verimliliği maksimize eder.

Coğrafi IP çeşitliliği, farklı ülkelerdeki içeriklere erişim ve coğrafi kısıtlamaların aşılması için kritik bir gerekliliktir. ProxyTurk'ün geniş IP havuzu, birden fazla coğrafi bölgeden IP adresleri sunarak global veri toplama operasyonlarını destekler. Session yönetimi sayesinde belirli bir süre boyunca aynı IP adresini koruyabilir veya her istekte otomatik IP rotasyonu uygulayabilirsiniz.

7/24 teknik destek ekibimiz, proxy yapılandırması, performans optimizasyonu ve sorun giderme konularında uzman yardımı sağlamaktadır. Entegrasyon sürecinizde karşılaşabileceğiniz teknik zorluklar, deneyimli mühendislerimiz tarafından hızla çözüme kavuşturulur. Kapsamlı API dokümantasyonu ve örnek kod kütüphanesi, entegrasyon sürecini hızlandırır.

Sıkça Sorulan Sorular

JSON API scraping mi yoksa HTML scraping mi tercih edilmeli?

JSON API varsa kesinlikle tercih edilmelidir. Veriler zaten yapılandırılmış formattadır, parsing hataları minimumda kalır ve bant genişliği kullanımı çok daha düşüktür. HTML scraping yalnızca API bulunmadığında tercih edilmelidir.

requests, httpx ve aiohttp arasındaki fark nedir?

requests senkron ve kullanımı en kolaydır. httpx hem senkron hem asenkron çalışır ve HTTP/2 destekler. aiohttp tamamen asenkron olup yüksek eşzamanlılık senaryolarında en yüksek performansı sunar. Proxy desteği üçünde de mevcuttur.

API key ve proxy birlikte nasıl kullanılır?

API key'i HTTP header'larında (Authorization veya X-API-Key) veya query parametrelerinde gönderin. Proxy yapılandırmasını HTTP kütüphanesinin proxy ayarlarında tanımlayın. İki yapılandırma birbirinden bağımsız çalışır.