Scrapy ile Proxy Rotasyonu: Python Web Crawler Rehberi

Scrapy ve Proxy Rotasyonu: Neden Kritik?

Scrapy, Python ekosistemindeki en güçlü ve kapsamlı web crawler framework'üdür. Asenkron mimari üzerine kurulu olan Scrapy, binlerce sayfayı eşzamanlı olarak tarayabilir ve yapılandırılmış veri çıkarma işlemlerini otomatize eder. Ancak bu denli yoğun trafik, hedef sitelerin güvenlik mekanizmalarını hızla tetikler. İşte bu noktada proxy rotasyonu devreye girer.

Rotating Proxy kullanarak her isteği farklı bir IP adresi üzerinden göndermek, Scrapy spider'larınızın kesintisiz çalışmasını sağlar. Bu rehberde özel bir Scrapy proxy middleware oluşturmayı, mevcut middleware çözümlerini entegre etmeyi ve ProxyTurk altyapısı ile yüksek performanslı veri toplama pipeline'ları kurmayı adım adım anlatacağız.

Scrapy'nin middleware yapısı, istek ve yanıt işleme süreçlerine müdahale etmenize olanak tanır. Bu yapı sayesinde proxy rotasyonu, User-Agent değişimi, retry mantığı ve istek öncelikledirme gibi işlemleri modüler bir şekilde yönetebilirsiniz.

Scrapy Middleware Sistemi

Scrapy'de middleware'ler, istek gönderilmeden önce ve yanıt alındıktan sonra çalışan bileşenlerdir. Downloader middleware'leri, HTTP isteklerini işlemek için kullanılır ve proxy rotasyonu için ideal yapıdır. Middleware sıralaması (priority numarası) sayesinde birden fazla middleware'i zincirleme olarak çalıştırabilirsiniz.

Scrapy projesinin settings.py dosyasında middleware'leri etkinleştirirsiniz. Her middleware'e bir öncelik numarası atanır ve düşük numaralar önce çalışır. Bu yapı, önce proxy atama, sonra User-Agent değiştirme ve en son retry mantığı çalıştırma gibi sıralı işlemler için idealdir.

Özel Proxy Middleware Oluşturma

Web Scraping Proxy entegrasyonu için özel bir Scrapy middleware oluşturmak, en esnek ve kontrollü yaklaşımdır. Aşağıdaki middleware, ProxyTurk API'si ile otomatik proxy rotasyonu sağlar:

import random

class ProxyTurkMiddleware:
    """ProxyTurk proxy rotasyon middleware."""

    def __init__(self):
        self.proxy_user = "proxyturk_user"
        self.proxy_pass = "proxyturk_pass"
        self.proxy_host = "gate.proxyturk.com"
        self.proxy_port = "7777"

    @classmethod
    def from_crawler(cls, crawler):
        return cls()

    def process_request(self, request, spider):
        proxy_url = (
            f"http://{self.proxy_user}:{self.proxy_pass}"
            f"@{self.proxy_host}:{self.proxy_port}"
        )
        request.meta["proxy"] = proxy_url
        spider.logger.debug(f"Proxy atandi: {self.proxy_host}")

    def process_exception(self, request, exception, spider):
        spider.logger.warning(
            f"Proxy hatasi: {exception}. Yeniden deneniyor..."
        )
        return request

Bu middleware, her istek için ProxyTurk proxy'sini atar. ProxyTurk altyapısı sunucu tarafında otomatik IP rotasyonu sağladığından, istemci tarafında ek rotasyon mantığına gerek kalmaz. 131.072 ISP IP havuzu sayesinde her istek benzersiz bir IP üzerinden gönderilir.

Settings.py Yapılandırması

Middleware'i Scrapy projenizdeki settings.py dosyasına ekleyin:

# settings.py

DOWNLOADER_MIDDLEWARES = {
    "myproject.middlewares.ProxyTurkMiddleware": 350,
    "scrapy.downloadermiddlewares.httpproxy.HttpProxyMiddleware": 400,
}

# Esitli istek ayarlari
CONCURRENT_REQUESTS = 32
CONCURRENT_REQUESTS_PER_DOMAIN = 8
DOWNLOAD_DELAY = 1
RANDOMIZE_DOWNLOAD_DELAY = True

# Retry ayarlari
RETRY_ENABLED = True
RETRY_TIMES = 3
RETRY_HTTP_CODES = [429, 403, 500, 502, 503]

# Loglama
LOG_LEVEL = "INFO"

CONCURRENT_REQUESTS parametresi eşzamanlı istek sayısını belirler. ProxyTurk'ün 800-900 Mbit bant genişliği ile yüksek eşzamanlılık değerlerini güvenle kullanabilirsiniz. DOWNLOAD_DELAY ve RANDOMIZE_DOWNLOAD_DELAY parametreleri, istekler arasında rastgele bekleme süreleri ekleyerek insan davranışını taklit eder.

SOCKS5 Proxy ile Scrapy

SOCKS5 Proxy kullanarak Scrapy spider'larınızda daha güvenli bağlantılar kurabilirsiniz. SOCKS5 desteği için middleware'de proxy URL formatını socks5h:// olarak değiştirmeniz yeterlidir. Bu protokol DNS çözümlemesini proxy sunucusu tarafında gerçekleştirir ve DNS sızıntılarını önler.

Scrapy'nin Twisted asenkron motoru, SOCKS5 proxy'leri doğrudan destekler. Ancak SOCKS desteği için ek Python paketleri (txsocksx veya python-socks) yüklemeniz gerekebilir. Bu paketler Twisted'in asenkron yapısıyla tam uyumlu çalışır.

Gelişmiş Retry ve Ban Yönetimi

Büyük ölçekli Scrapy projelerinde ban yönetimi kritik öneme sahiptir. Hedef site engellemeleri, rate limiting ve CAPTCHA sorguları ile karşılaştığınızda akıllı retry mekanizmaları devreye girmelidir:

• HTTP 429 Yönetimi: Rate limit yanıtlarında otomatik olarak bekleme süresi ekleyin. Retry-After header'ını okuyarak uygun süre belirleyebilirsiniz. HTTP 429 çözüm rehberimiz detaylı stratejiler sunmaktadır.
• HTTP 403 Yönetimi: Erişim engeli durumunda proxy değişikliği ve header düzenlemesi yapın. HTTP 403 rehberimizi inceleyin.
• CAPTCHA Tespiti: Yanıt içeriğinde CAPTCHA formlarını tespit ederek isteği farklı bir proxy ile yeniden gönderin.
• Backoff Stratejisi: Ardışık hatalarda üstel bekleme süresi (exponential backoff) uygulayarak sunucu yükünü azaltın.

Pratik Uygulama Senaryoları ve İleri Seviye Stratejiler

Bu konuda başarılı sonuçlar elde etmek için çeşitli pratik stratejiler uygulanabilir. Öncelikle test ortamında küçük ölçekli denemeler yaparak yapılandırmanızın doğru çalıştığını doğrulayın. Ardından ölçeği kademeli olarak artırarak performans darboğazlarını ve potansiyel sorunları erken aşamada tespit edin.

Loglama ve izleme mekanizmaları kurmak, uzun süreli operasyonlarda kritik öneme sahiptir. Her isteğin başarı durumu, yanıt süresi, kullanılan proxy IP'si ve dönen HTTP durum kodu kayıt altına alınmalıdır. Bu veriler performans analizi, hata tespiti ve optimizasyon süreçleri için vazgeçilmezdir. Python'da logging modülü, Node.js'te winston veya pino, Go'da zerolog gibi kütüphaneler profesyonel loglama altyapısı oluşturmanıza yardımcı olur.

Veri doğrulama (validation) aşaması, toplanan verilerin kalitesini garanti eder. Beklenen veri formatlarını, zorunlu alanları ve değer aralıklarını kontrol eden doğrulama kuralları tanımlayın. Geçersiz veya eksik veriler tespit edildiğinde ilgili sayfanın yeniden taranmasını otomatik olarak tetikleyen bir mekanizma kurabilirsiniz.

Proxy performansını sürekli izlemek ve optimum yapılandırmayı bulmak için A/B testi yaklaşımı uygulanabilir. Farklı proxy türlerini (HTTP vs SOCKS5), rotasyon stratejilerini (istek bazlı vs zaman bazlı) ve istek hızlarını karşılaştırarak projenize en uygun konfigürasyonu belirleyin.

Hedef sitenin yapısındaki değişiklikleri otomatik olarak tespit eden bir izleme sistemi kurmak, scraping pipeline'ınızın sürdürülebilirliğini artırır. HTML yapısı değiştiğinde, API endpoint'leri güncellendiğinde veya yeni güvenlik mekanizmaları devreye girdiğinde uyarı alan bir sistem, bakım maliyetlerini önemli ölçüde azaltır.

ProxyTurk'ün sunduğu gelişmiş özellikler arasında webhook desteği, kullanım istatistikleri API'si ve özel IP havuzu oluşturma imkanı yer almaktadır. Bu özellikler kurumsal düzeyde scraping projelerinin yönetimini kolaylaştırır ve operasyonel verimliliği artırır.

Otomasyon süreçlerinizi container teknolojileri (Docker, Kubernetes) ile paketleyerek taşınabilirlik ve ölçeklenebilirlik sağlayabilirsiniz. Her container'a farklı proxy yapılandırması atanabilir ve Kubernetes'in otomatik ölçekleme özelliği ile iş yüküne göre container sayısı dinamik olarak ayarlanabilir.

Etik ve yasal uyumluluk konusu, tüm web scraping projelerinde göz önünde bulundurulmalıdır. Hedef sitenin robots.txt kurallarına ve kullanım koşullarına uyum sağlamak, kişisel verilerin işlenmesinde GDPR ve KVKK gibi düzenlemelere riayet etmek ve sunucu kaynaklarını aşırı tüketmekten kaçınmak temel sorumluluklardır.

Kapsamlı Güvenlik ve Anonimlik Rehberi

Web scraping projelerinde güvenlik ve anonimlik, başarılı operasyonların temel taşıdır. IP adresi gizleme tek başına yeterli değildir; tarayıcı parmak izi, TLS yapılandırması, HTTP header tutarlılığı ve davranış kalıpları gibi birçok faktör bir bütün olarak yönetilmelidir. Çok katmanlı bir güvenlik stratejisi, tespit riskini minimum seviyeye indirir ve uzun süreli veri toplama operasyonlarının kesintisiz devam etmesini sağlar.

Proxy zinciri (proxy chain) kullanarak trafiğinizi birden fazla proxy sunucusu üzerinden yönlendirebilirsiniz. Bu teknik, herhangi bir tek noktanın gerçek IP adresinizi bilmesini engeller. Ancak her ek proxy atlama noktası gecikme süresini artıracağından, performans ve güvenlik arasında bir denge kurmanız gerekir. Çoğu web scraping senaryosu için tek katmanlı yüksek kaliteli ISP proxy yeterlidir.

DNS sızıntıları, proxy kullanırken en sık gözden kaçan güvenlik açığıdır. Proxy üzerinden HTTP trafiği yönlendirilirken DNS sorguları yerel DNS sunucusu üzerinden yapılabilir ve bu durum gerçek konumunuzu ifşa edebilir. SOCKS5 proxy'nin uzak DNS çözümlemesi (remote DNS) özelliği bu sorunu çözer. Alternatif olarak DNS-over-HTTPS kullanarak DNS trafiğinizi şifreleyebilirsiniz.

WebRTC sızıntıları da tarayıcı tabanlı scraping projelerinde dikkat edilmesi gereken bir konudur. WebRTC protokolü, proxy ayarlarından bağımsız olarak gerçek IP adresinizi ifşa edebilir. Headless tarayıcılarda WebRTC'yi devre dışı bırakmak veya sahte IP bilgileri enjekte etmek bu riski ortadan kaldırır.

Veri Toplama Pipeline Mimarisi

Profesyonel web scraping projeleri, modüler bir pipeline mimarisi üzerine kurulmalıdır. Tipik bir pipeline şu aşamalardan oluşur: URL keşfi ve kuyruklama, HTTP isteği gönderme ve yanıt alma, HTML veya JSON parsing, veri doğrulama ve temizleme, depolama ve raporlama. Her aşama bağımsız olarak çalışabilmeli ve hata durumlarında diğer aşamaları etkilememelidir.

URL kuyruk yönetimi için Redis, RabbitMQ veya Apache Kafka gibi mesaj kuyrukları kullanılabilir. Bu yapı, birden fazla worker'ın aynı kuyruğu tüketmesine ve yatay ölçeklenmesine olanak tanır. Her worker farklı bir proxy ile çalışarak doğal IP rotasyonu sağlar.

Veri depolama stratejisi, projenin ölçeğine ve gereksinimlerine bağlıdır. Küçük ölçekli projeler için JSON veya CSV dosyaları yeterli olabilirken, büyük ölçekli projelerde PostgreSQL, MongoDB veya Elasticsearch gibi veritabanları tercih edilmelidir. Elasticsearch özellikle tam metin arama ve analitik sorgulamalarda avantaj sağlar.

İzleme ve uyarı sistemi, pipeline'ın sağlığını sürekli kontrol eder. İstek başarı oranı, ortalama yanıt süresi, toplanan veri miktarı ve hata sayısı gibi metrikler dashboard'da görselleştirilmelidir. Prometheus ve Grafana kombinasyonu, açık kaynak bir izleme altyapısı oluşturmak için idealdir.

Yaygın Sorunlar ve Çözüm Yöntemleri

Web scraping projelerinde en yaygın sorunlardan biri, hedef sitenin yapısında yapılan değişikliklerdir. HTML seçicilerin değişmesi, API endpoint'lerinin güncellenmesi veya yeni güvenlik mekanizmalarının devreye girmesi, mevcut scraping kodunuzun çalışmamasına neden olabilir. Bu tür değişiklikleri erken tespit etmek için otomatik izleme ve uyarı mekanizmaları kurmalısınız.

Ağ bağlantı sorunları (timeout, connection reset, DNS çözümleme hatası) büyük ölçekli projelerde sıklıkla karşılaşılan engellerdir. Sağlam bir retry mekanizması, exponential backoff stratejisi ve proxy failover sistemi bu sorunları otomatik olarak çözer. ProxyTurk'ün yüksek uptime oranı ve 800-900 Mbit bant genişliği, ağ kaynaklı sorunları minimize eder.

Bellek sızıntıları (memory leak) uzun süreli scraping operasyonlarında ciddi sorunlara yol açabilir. Özellikle tarayıcı tabanlı otomasyon projelerinde her oturumun düzgün şekilde kapatılması, kullanılmayan nesnelerin serbest bırakılması ve periyodik garbage collection tetiklenmesi önemlidir. Bellek kullanımını düzenli olarak izleyin ve eşik değeri aşıldığında worker'ı yeniden başlatın.

Karakter kodlama sorunları, farklı dillerdeki web sitelerinden veri toplarken karşılaşılabilir. UTF-8 dışında kodlama kullanan siteler için response.encoding özniteliğini doğru ayarlamak ve chardet gibi kütüphanelerle otomatik kodlama tespiti yapmak veri tutarlılığını sağlar.

Anti-scraping mekanizmaları giderek daha sofistike hale gelmektedir. Yapay zeka tabanlı bot algılama, canvas fingerprinting, WebGL fingerprinting ve audio fingerprinting gibi ileri teknikler kullanılmaktadır. Bu mekanizmalara karşı tek bir çözüm yerine çok katmanlı bir strateji uygulanmalıdır: ISP proxy kullanımı, gerçek tarayıcı emülasyonu, doğal davranış simülasyonu ve TLS parmak izi yönetimi birlikte uygulanmalıdır.

Gerçek Dünya Kullanım Senaryoları

E-ticaret fiyat izleme projeleri, proxy kullanımının en yaygın senaryolarından biridir. Rakip firmaların ürün fiyatlarını düzenli aralıklarla tarayarak pazar analizi yapabilir, fiyat değişikliklerini takip edebilir ve rekabetçi fiyatlandırma stratejileri geliştirebilirsiniz. Bu tür projeler genellikle günde binlerce sayfanın taranmasını gerektirir ve proxy rotasyonu olmadan sürdürülebilir değildir. ProxyTurk'ün 131.072 ISP IP adresi, e-ticaret sitelerinin bot algılama sistemlerinden kaçınmanızı sağlar.

Emlak ve gayrimenkul sektöründe ilan verilerinin toplanması, pazar trendlerini analiz etmek ve yatırım fırsatlarını tespit etmek için yaygın olarak kullanılmaktadır. İlan siteleri genellikle agresif bot koruması uygular ve datacenter IP'lerini otomatik olarak engeller. ISP proxy kullanarak gerçek bir kullanıcı profili oluşturmak, bu engelleri aşmanın en etkili yoludur.

İş ilanları ve istihdam verileri, insan kaynakları analitiği ve iş gücü piyasası araştırmaları için değerli bilgiler sunar. LinkedIn, Indeed ve Glassdoor gibi platformlardan veri toplamak gelişmiş proxy stratejileri ve dikkatli rate limit yönetimi gerektirir. Her platformun kendine özgü güvenlik mekanizmaları olduğundan, platforma özel yapılandırma gereklidir.

Sosyal medya izleme ve duygu analizi projeleri, marka yönetimi ve pazarlama stratejileri için kritik içgörüler sağlar. Twitter, Instagram ve Facebook gibi platformlardan paylaşım verilerini toplamak, coğrafi trendleri analiz etmek ve kullanıcı duygu durumunu ölçmek için proxy tabanlı veri toplama altyapısı gereklidir.

Akademik araştırma ve bilimsel veri toplama projelerinde web scraping, büyük ölçekli veri setleri oluşturmak için kullanılmaktadır. Araştırma makaleleri, patent veritabanları, tıbbi literatür ve hükümet verileri gibi kaynaklar, yapılandırılmış formatta toplandığında güçlü analitik çalışmalar için zemin oluşturur.

Ölçeklendirme ve Yüksek Kullanılabilirlik

Küçük ölçekli bir scraping projesinden kurumsal düzeyde bir veri toplama platformuna geçiş, mimari düzeyde önemli kararlar gerektirir. Yatay ölçekleme stratejisi, iş yükünü birden fazla worker arasında dağıtarak throughput'u artırır. Her worker bağımsız bir proxy havuzuyla çalışır ve merkezi bir kuyruk sisteminden görev alır.

Dağıtık mimari tasarımında lider seçimi (leader election), iş bölümü (work distribution) ve sonuç birleştirme (result aggregation) gibi kavramlar önem kazanır. Apache Airflow veya Prefect gibi iş akışı orkestrasyon araçları, karmaşık scraping pipeline'larını zamanlama, izleme ve yönetme işlemlerini kolaylaştırır.

Hata toleransı (fault tolerance) ve yüksek kullanılabilirlik (high availability), üretim ortamlarında kritik gereksinimlerdir. Worker çökmesi durumunda görevlerin otomatik olarak yeniden atanması, checkpoint mekanizması ile ilerlemenin kaydedilmesi ve sağlık kontrolü (health check) ile sorunlu bileşenlerin tespit edilmesi gerekir.

Maliyet optimizasyonu, büyük ölçekli projelerde göz ardı edilmemesi gereken bir faktördür. Proxy kullanım maliyetleri, altyapı giderleri (sunucu, depolama, ağ), geliştirme ve bakım süreleri ile veri kalitesi arasında bir denge kurulmalıdır. ProxyTurk'ün esnek fiyatlandırma modeli, farklı ölçeklerdeki projelere uygun çözümler sunar.

Cache stratejileri, tekrarlanan isteklerin sayısını azaltarak hem proxy trafiğini hem de hedef site yükünü düşürür. Daha önce taranan ve değişme olasılığı düşük olan sayfalar için yerel cache kullanılabilir. Cache geçerlilik süreleri (TTL), veri tazeliği gereksinimlerine göre ayarlanmalıdır.

Veri kalite kontrol mekanizmaları, toplanan verilerin doğruluğunu ve tutarlılığını garanti eder. Eksik alanlar, hatalı formatlar, yinelenen kayıtlar ve çelişkili değerler gibi sorunları otomatik olarak tespit eden doğrulama kuralları tanımlanmalıdır. Kalite puanı hesaplayarak her scraping oturumunun başarısını ölçebilirsiniz.

Endüstri Standartları ve En İyi Uygulamalar

Profesyonel web scraping operasyonlarında endüstri standartlarına uyum, sürdürülebilir ve başarılı projelerin temelini oluşturur. Veri toplama süreçlerinizde şeffaflık, tekrarlanabilirlik ve ölçülebilirlik ilkelerini benimsemek, hem operasyonel verimliliği artırır hem de yasal uyumluluğu sağlar. Her scraping oturumunun ayrıntılı loglarını tutmak, hangi sayfaların ne zaman tarandığını, hangi verilerin toplandığını ve hangi hataların oluştuğunu izlemenize olanak tanır.

Proxy yönetimi konusunda en iyi uygulama, hiçbir zaman tek bir proxy türüne veya sağlayıcıya bağımlı kalmamaktır. Çoklu proxy stratejisi, farklı proxy türlerini farklı görevler için kullanmayı içerir. ISP proxy'ler yüksek güvenlik gerektiren senaryolarda, datacenter proxy'ler hız öncelikli görevlerde ve residential proxy'ler ise coğrafi çeşitlilik gerektiren durumlarda tercih edilebilir. ProxyTurk'ün çoklu proxy türü desteği bu stratejiyi uygulamanızı kolaylaştırır.

Veri saklama ve gizlilik politikaları, özellikle kişisel veri içerebilecek scraping projelerinde büyük önem taşır. GDPR, KVKK ve diğer veri koruma düzenlemeleri, toplanan verilerin nasıl saklanacağını, işleneceğini ve silineceğini düzenler. Kişisel bilgileri mümkün olduğunca minimize edin, anonimleştirme teknikleri uygulayın ve veri saklama sürelerine uygun bir politika belirleyin.

Otomatik test ve sürekli entegrasyon (CI/CD) pratikleri, scraping kodunuzun güvenilirliğini artırır. Birim testleri ile her parsing fonksiyonunun doğru çalışıp çalışmadığını doğrulayabilir, entegrasyon testleri ile tam pipeline'ın uçtan uca çalışmasını test edebilir ve regresyon testleri ile mevcut işlevselliğin korunduğunu garanti edebilirsiniz.

Performans benchmark'ları oluşturarak proxy ve scraping yapılandırmanızın optimum seviyede çalışıp çalışmadığını düzenli olarak değerlendirin. Saniye başına istek sayısı, ortalama yanıt süresi, başarılı istek oranı ve toplanan veri hacmi gibi temel performans göstergelerini (KPI) izleyin ve hedef değerlerle karşılaştırın.

Dokümantasyon, özellikle ekip çalışmasında kritik bir bileşendir. Proxy yapılandırması, scraping kuralları, veri şeması ve hata yönetimi prosedürleri detaylı olarak belgelenmeli ve güncel tutulmalıdır. README dosyaları, API dokümantasyonu ve runbook'lar, yeni ekip üyelerinin hızla projeye adapte olmasını sağlar.

Son olarak, web scraping teknolojileri sürekli gelişmektedir. Yeni tarayıcı API'leri, gelişmiş bot algılama mekanizmaları ve değişen yasal düzenlemeler, scraping stratejilerinizi düzenli olarak güncellemenizi gerektirir. Endüstri bloglarını, güvenlik bültenlerini ve topluluk forumlarını takip ederek güncel kalmanız önemlidir. ProxyTurk olarak müşterilerimize en güncel proxy teknolojileri ve en iyi uygulamalar konusunda sürekli destek sağlamaktayız.

ProxyTurk Altyapısı ve Teknik Avantajlar

ProxyTurk, Türkiye'nin lider proxy altyapı sağlayıcısı olarak 131.072 ISP IP adresi, SOCKS5 ve HTTP/HTTPS protokol desteği, 800-900 Mbit bant genişliği ve %99.9 uptime garantisi sunmaktadır. Bu teknik altyapı, hem bireysel geliştiriciler hem de kurumsal düzeyde veri toplama operasyonları için ideal performans ve güvenilirlik sağlar. API tabanlı proxy yönetimi, webhook bildirimleri ve detaylı kullanım analitiği gibi gelişmiş özellikler, operasyonel verimliliği maksimize eder.

Coğrafi IP çeşitliliği, farklı ülkelerdeki içeriklere erişim ve coğrafi kısıtlamaların aşılması için kritik bir gerekliliktir. ProxyTurk'ün geniş IP havuzu, birden fazla coğrafi bölgeden IP adresleri sunarak global veri toplama operasyonlarını destekler. Session yönetimi sayesinde belirli bir süre boyunca aynı IP adresini koruyabilir veya her istekte otomatik IP rotasyonu uygulayabilirsiniz.

7/24 teknik destek ekibimiz, proxy yapılandırması, performans optimizasyonu ve sorun giderme konularında uzman yardımı sağlamaktadır. Entegrasyon sürecinizde karşılaşabileceğiniz teknik zorluklar, deneyimli mühendislerimiz tarafından hızla çözüme kavuşturulur. Kapsamlı API dokümantasyonu ve örnek kod kütüphanesi, entegrasyon sürecini hızlandırır.

Sıkça Sorulan Sorular

Scrapy ile proxy rotasyonu nasıl yapılır?

Scrapy'de proxy rotasyonu Downloader Middleware ile gerçekleştirilir. Özel bir middleware oluşturarak process_request metodunda her isteğe farklı bir proxy atayabilirsiniz. ProxyTurk altyapısı sunucu tarafında otomatik rotasyon sağladığından, tek bir proxy endpoint'i kullanmanız yeterlidir.

Scrapy middleware sıralaması nasıl çalışır?

Scrapy middleware'leri öncelik numarasına göre sıralanır. Düşük numaralar istek gönderilmeden önce, yüksek numaralar yanıt alındıktan sonra önce çalışır. Proxy middleware'inizi 350 gibi bir değere ayarlayarak varsayılan HttpProxyMiddleware'den (400) önce çalışmasını sağlayabilirsiniz.

Scrapy ile kaç eşzamanlı istek güvenlidir?

ProxyTurk altyapısı ile 32-64 eşzamanlı istek güvenle kullanılabilir. Ancak hedef sitenin kapasitesine ve rate limit politikalarına göre bu değeri ayarlamanız önerilir. DOWNLOAD_DELAY parametresi ile istekler arasında 1-3 saniye bekleme eklemek ban riskini azaltır.