داكن proxyscrape شعار

وكيل مع طلبات بايثون - 5 خطوات بسيطة

أدلة، 03-ديسمبر-20225 دقائق للقراءة
الوكيل مع طلبات python هي عملية دمج الوكيل مع كل طلب python بحيث يمكن للمستخدم البقاء مجهول الهوية في الشبكة. سترسل الأجهزة العميلة التي تطلب البيانات من الخادم طلبا باستخدام برنامج نصي بيثون أو تكوين وكيل مع طلبات python.
يوما بعد يوم ، ينمو توليد البيانات بمعدل أسي. من مستخدمي الويب العاديين إلى المسوقين المحترفين وكاشطات الويب ، سيصل الجميع إلى البيانات لتحليل الاستراتيجيات وابتكارها. الإنترنت هو وسيلة تفيض بالبيانات ، مما يجعلها مريحة للمستخدمين لجمع المعلومات من مواقع الويب. سيرسل مطورو البرمجة طلبات إلى صفحات الويب من التعليمات البرمجية الخاصة بهم ويستخدمون البيانات التي تم جمعها من عنوان URL كمدخلات لمتطلبات البرمجة الخاصة بهم. ماذا لو لم يتمكن المستخدمون من جمع البيانات من المواقع المحجوبة؟ هذه المقالة على وشك مناقشة استخدام الوكلاء مع طلبات Python وكيف تساعد كاشطات الويب.

لا تتردد في الانتقال إلى أي قسم لمعرفة المزيد حول الوكيل مع طلبات Python!

جدول المحتويات

ما هو الوكيل؟

الوكيل هو جهاز وسيط للاتصال بين العميل والخادم. تعمل هذه الوكلاء نيابة عن العقدة في الاتصال وتخفي هويتها عن العقد الأخرى في الشبكة. تتمتع الخوادم الوكيلة بميزات خاصة تضمن السرعة وإخفاء الهوية وخدمات كشط البيانات دون انقطاع دون قيود. يعد جمع المعلومات من مصادر متعددة عملية سهلة للغاية باستخدام الخوادم الوكيلة.

ما هي طلبات بايثون؟

طلب python هو مكتبة HTTP تسمح للمستخدمين بإرسال طلبات HTTP إلى عنوان URL. مكتبات الطلبات هذه ليست وحدات مدمجة في Python. يمكن للمستخدمين استيراد الطلبات من المكتبة إذا لزم الأمر. تحتوي مكتبة طلبات HTTP على العديد من الطرق ، مثل POST و PUT و HEAD و GET و POST و PATCH.

لماذا استخدام الوكيل مع طلبات بايثون؟

يفضل الناس استخدام الوكلاء في الوقت الحاضر للحفاظ على هوياتهم طي الكتمان. يمكن للوكلاء إخفاء عناوين IP الخاصة بنا والظهور في الشبكة بعنوان وكيل من أي نوع وموقع. يتيح ذلك للمستخدم كشط المعلومات حتى من المواقع المقيدة أو المحظورة جغرافيا. يمكن للمواقع المحظورة للكنديين استخدام عنوان وكيل من المملكة المتحدة للوصول إلى المواقع وتجنب حظر IP. للاستفادة من ميزات الوكلاء ، يستخدم مطورو الويب الوكلاء مع مكتبة طلبات python حتى لا يعرف عنوان URL الهوية الفعلية للمستخدم.

تثبيت بايثون ومكتبات الطلبات

يتطلب دمج الوكيل مع مكتبة طلبات Python القدرة على العمل مع Python.

  • المعرفة الأساسية لبرمجة بايثون.
  • خبرة في استخدام بايثون 3.
  • Python IDLE مثبت مسبقا في النظام.
  • مكتبة طلبات استيراد من موجه الأوامر. 
يجب على الناس التأكد من أن لديهم هذه المتطلبات الأساسية. الأولان هما المهارات اللازمة للعمل على برنامج نصي بيثون ، في حين أن الشرطين التاليين هما المتطلبات الأساسية لتشغيل برامج بايثون. إذا لم يكن النظام يحتوي على محرر python ، فقم بتنزيل إصدار python المناسب المتوافق مع تكوين النظام الخاص بك. تحقق من التعليمات لتنزيل Python وتكوينه في نظامك. سيتطلب ذلك من 2 جيجابايت إلى 4 جيجابايت من ذاكرة الوصول العشوائي. بمجرد الانتهاء من تثبيت python الأساسي ، يجب على المستخدمين أيضا التأكد من استيراد المكتبات الضرورية. للعمل مع طلبات python ، ليس لدينا أي مكتبات طلبات مدمجة. لذلك ، يجب على المستخدمين تثبيت مكتبة الطلبات في المقام الأول.
  • افتح "موجه الأوامر".
  • اكتب "تجميد النقطة".
  • سيعرض خيار التجميد هذا جميع مكتبات python المثبتة.
  • تحقق مما إذا كانت "وحدة الطلب" متاحة في القائمة إذا لم يكن كذلك ، فقم بتثبيت "مكتبة الطلبات".

طلبات تثبيت النقطة

  • سيؤدي هذا البيان إلى تثبيت "مكتبة الطلبات".

استخدام الوكلاء مع طلبات بايثون

هناك 5 خطوات بسيطة لإضافة وكلاء مع طلبات Python. تتضمن هذه الخطوات النقاط الرئيسية من تثبيت الحزم الضرورية وإضافة عناوين الوكيل وإرسال الطلبات من خلال طرق الطلبات لوحدات Python.

وكيل مع طلبات بايثون

تتم مناقشة هذه الخطوات 5 بالتفصيل من خلال دليل تدريجي. تتم مناقشة إضافة الوكيل مع طلبات Python والمعلمات المتاحة ووظائفها أدناه.

الضرورة الأساسية للعمل مع طلبات python هي استيراد وحدة الطلبات. 

 طلبات الاستيراد

وحدة الطلبات هذه مسؤولة عن إرسال طلبات HTTP باستخدام ترميز python. الآن لتضمين الوكلاء مع طلبات python هذه ، يتعين على المستخدمين تحديد قاموس باسم "الوكلاء". يحتوي هذا القاموس على "بروتوكولات HTTP" كأسماء و "عناوين URL للوكيل" كقيمة للأسماء. يساعد قاموس الوكيل هذا على إنشاء اتصال HTTP. 

proxies = {'https': /,  'http://webproxy.to/ ''}

الخطوة التالية هي إنشاء متغير باسم "URL" لتحديد موقع الويب الذي هو مصدر عملية الكشط.

عنوان URL = "http://Yellowpages.com"

الخطوة التالية هي تحديد متغير "استجابة" للتعامل مع الطلب عن طريق تمرير متغيرات "URL" والوكيل. 

الاستجابة = requests.get (url)

يمكن للمستخدمين أيضا طباعة "رمز الحالة" لمعرفة ما إذا كان الطلب ناجحا أم لا.

print(f’Status Code: {response.status_code}') 
نموذج الترميز
import requests
proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.get(url)
print(f'Status Code: {response.status_code}')

مصادقة الوكيل

يمكن للمستخدمين تضمين مصادقة الوكيل عن طريق إضافة معلمات "اسم المستخدم" و "كلمة المرور". 

الاستجابة = requests.get (عنوان url ، auth = ('user' ، 'pass'))
نموذج الترميز
import requests
proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.get(url, auth=('user','pass'))

جلسة HTTP

يشبه كائن جلسة العمل هذا ملفات تعريف الارتباط. يحفظ البيانات الخاصة بالمستخدم لطلبات متعددة. يمكن للمستخدمين تضمين كائنات جلسة العمل عن طريق استدعاء وظيفة جلسة العمل لمكتبة الطلبات.

طلبات.جلسة()
نموذج الترميز
import requests
session = requests.Session()
session.proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.get(url)
print(f’Status Code: {response.status_code}') 

مهلة مع طلبات الوكيل

تسمح معلمة "المهلة" لطلبات HTTP للمستخدمين بتحديد حد زمني أقصى لمعالجة الطلبات. هذه المرة تخبر الخادم بالمدة التي يجب أن ينتظر فيها الرد. يمكن للأشخاص تمرير هذه المعلمة إلى وظيفة طلبات HTTP.

الاستجابة = requests.get ('url' ، المهلة = 5))

يمكن للمستخدمين أيضا تعيين قيمة المهلة إلى "بلا" إذا كان الخادم البعيد بطيئا وكان على النظام الانتظار لفترة طويلة.

الاستجابة = requests.get ('url' ، المهلة = لا شيء))
نموذج التعليمات البرمجية:
import requests
proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.get(url, timeout=5)
print(f’Status Code: {response.status_code}') 

المتغير البيئي

قد يستخدم الأشخاص نفس الوكيل عدة مرات. بدلا من كتابة عنوان URL للوكيل بشكل متكرر ، لديهم خيار متغير بيئي. باستخدام هذا الخيار ، يمكن للأشخاص تعيين عنوان URL وكيل لمتغير بيئي واستخدام هذا المتغير فقط عند الحاجة. 

تصدير HTTP_PROXY='http://webproxy.t'

الوظائف في وحدة الطلب

مكتبة الطلبات الخاصة بلغة python قادرة على التعامل مع وظائف متعددة تتعلق بالطلبات والاستجابات ، مثل get و post و put و delete و patch و head. هنا هو بناء جملة الوظائف الشعبية. 
  • الاستجابة = requests.get (url)
  • الاستجابة = requests.post (عنوان URL ، الوكلاء = الوكلاء)
  • الاستجابة = requests.head (عنوان URL)
  • الاستجابة = الطلبات.الخيارات (عنوان URL)
  • response = requests.put(url,data={“a”:1,args}
  • الاستجابة = الطلبات.حذف (عنوان URL)
  • response = requests.patch(url,data={“a”:1,args}

نشر JSON باستخدام مكتبة طلب Python

من الممكن أيضا نشر JSON على الخادم في طلبات python. في هذه الحالة ، يأخذ الوكيل مع طرق طلبات python عنوان URL كمعلمة أولى و JSON كمعلمة ثانية. يحول القاموس إلى سلاسل بيثون.

نموذج التعليمات البرمجية:
import requests
proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.post(url, json={
"ID": 123,
"Name": "John"))
})
print(f’Status Code: {response.status_code}, Response: {r.json()}") 

كيفية تدوير الوكيل مع طلبات بايثون

يمكن للأشخاص أيضا تدوير الوكلاء لتحسين إخفاء الهوية. يمكن أن يساعد استخدام نفس الوكيل لفترة طويلة لجميع المواقع مزودي خدمة الإنترنت على تتبع عنوان الوكيل الخاص بك وحظره. يفضل الناس استخدام أكثر من خادم وكيل واحد في نموذج تناوبي للتعامل مع حظر IP هذا. لديهم مجموعة من الوكلاء ، ويقوم النظام بتدوير وتعيين وكيل جديد من التجمع. 

تتمثل الخطوة الأولى لتدوير الوكيل مع طلبات python في استيراد المكتبات الضرورية مثل الطلبات والصابون الجميل والاختيار. 

لاستخدام هذا الوكيل التناوبي مع طلبات python ، يتعين علينا تكوينها أو عناوين URL الخاصة بها للاستفادة منها. Proxyscrape يوفر بروكسيات مدفوعة ومجانية من جميع الفئات. يمكن للأشخاص استخدام الوكلاء السكنيين والمتمركزين على البيانات والخاصين من جميع الأنواع والمواقع. 

عناوين IP = [" proxyscrape.com:2000", "proxyscrape.com:2010 "،"proxyscrape.com:2100 "،"proxyscrape.com 2500"]

ثم يتعين على المستخدمين إنشاء طريقة "طلب وكيل" تحتوي على ثلاث معلمات ، مثل نوع الطلب وعنوان URL و ** kwargs.

def proxy_request(get_proxy,http://webproxy.to/,**kwargs):

ضمن طريقة "طلب الوكيل" هذه، قم بإرجاع قاموس الوكيل كاستجابة لأساليب طلب الوكيل. هنا ، kwargs هي حجة لتمرير القيم. 

تستخرج هذه الطريقة عناوين الوكيل من عنوان URL محدد لتحويل الاستجابة المستخرجة إلى كائن Beautiful Soap الذي يسهل عملية استخراج الوكيل. 

random.radint (0 ، لين (عناوين IP) -1)

ثم قم بإنشاء متغير "وكيل" يستخدم مكتبة "الصابون" لإنشاء عنوان وكيل بشكل عشوائي من قائمة وكلاء كائن "الصابون".

الوكيل = random.radint (0 ، len (عناوين IP) -1)

proxies = {“http” : ipaddresses(proxy), “https” : ipaddresses(proxy)}

الاستجابة = requests.get (getproxy ، url ، الوكلاء = الوكلاء ، المهلة = 5 ، ** kwargs)

print(currentproxy:{proxy[‘https’]}”)

نموذج التعليمات البرمجية
import requests
import BeautifulSoap
import choice
ipaddresses = [“ proxyscrape.com:2000”, “proxyscrape.com:2010 ”, “proxyscrape.com:2100 ”, “proxyscrape.com 2500”]
def proxy_request(get_proxy,http://webproxy.to/,**kwargs):
 while True:
  proxy = random.radint(0,len(ipaddresses)-1)
   proxies = {“http” : ipaddresses(proxy), “https” : ipaddresses(proxy)}
   response = requests.get(getproxy, url, proxies = proxies, timeout=5, **kwargs)
   print(currentproxy:{proxy[‘https’]}”)
  break
 return response
قراءات مقترحة:

أسئلة مكررة

1. ما هو الوكيل مع طلبات بايثون؟
يمكن إضافة طلبات python من جانب العميل مع عنوان الوكيل لإخفاء الهوية الفعلية للمستخدم. بحيث تصل الطلبات إلى الخادم بعنوان الوكيل.
2. لماذا استخدام الوكيل مع طلبات بايثون؟
يمكن أن يساعدك استخدام الوكلاء مع طلبات python في التغلب على القيود مثل كتل IP والكتل الجغرافية التي ستواجهها جميع الكاشطات عادة.
3. ما هي مصادقة الوكيل؟
Proxy users can also include authentication factors to the proxies by adding a username and password. response = requests.get(url, auth=(‘user’, ‘pass’))

استنتاج

غطت هذه المقالة طلبات HTTP بلغة برمجة python ، إلى جانب المكتبات والوحدات النمطية والوظائف الضرورية المتضمنة في إرسال طلب HTTP. يمكنك استيراد وحدة الطلب واستخدام طرق GET و POST و PATCH و PUT وفقا لمتطلباتك. يمكنك التركيز على الوكيل في python إذا كنت ترغب في الاستفادة من ميزات الوكيل مثل إخفاء الهوية والسرعة وقدرات الكشط. يمكن للمستخدمين أيضا استخدام تجمعات الوكيل وتعيين الوكلاء بالتناوب مع طلب وكيل لتحسين الأمان.