داكن proxyscrape شعار

كيفية استخدام وحدة الوكيل مع الطلبات في Python

أدلة, كيف, بروكسي, مارس-03-20225 دقائق للقراءة

Every computer gets a unique Internet Protocol (IP) address that identifies the computer and its geographic location when connected to the Internet. Your computer sends out a request whenever it needs any information from the Internet. The request is sent to a target computer that checks the type of information being asked for. The target

يحصل كل كمبيوتر على عنوان بروتوكول إنترنت (IP) فريد يحدد الكمبيوتر وموقعه الجغرافي عند الاتصال بالإنترنت. يرسل جهاز الكمبيوتر الخاص بك طلبا كلما احتاج إلى أي معلومات من الإنترنت. يتم إرسال الطلب إلى جهاز كمبيوتر مستهدف يتحقق من نوع المعلومات المطلوبة. يرسل الكمبيوتر المستهدف المعلومات مرة أخرى إذا سمح له بإعطائها إلى عنوان IP الخاص بنا. في بعض الأحيان ، يريد الكمبيوتر الحصول على المعلومات من الإنترنت دون تحديد هويته. عادة ما يتم حظر هذه المعلومات ، ولكن يمكننا الحصول عليها باستخدام وكيل يعمل كوسيط بين العميل وجهاز الخادم.

يحتوي كل خادم وكيل على عنوان IP الخاص به ، لذلك عندما يطلب المستخدم عبر وكيل الوصول إلى موقع ويب ، يرسل موقع الويب البيانات إلى عنوان IP للخادم الوكيل الذي يعيد توجيهها إلى المستخدم.

  • تخفي الوكلاء هوية كاشطات الويب وتجعل حركة المرور الخاصة بهم تبدو وكأنها حركة مرور مستخدم منتظمة.
  • توفر الخوادم الوكيلة أمانا إضافيا لمواقع الويب وتوازن حركة المرور على الإنترنت.
  • يحمي الوكلاء بيانات مستخدمي الويب أو يساعدون في الوصول إلى مواقع الويب المحظورة بواسطة آلية الرقابة في بلد ما.

استخدام وحدة وكيل مع الطلبات في Python

لاستخدام الوكلاء مع طلبات Python ، تحتاج إلى اتباع الخطوات أدناه.

طلبات الاستيراد

استيراد حزمة الطلبات التي هي مكتبة HTTP بسيطة. يمكنك بسهولة إرسال الطلبات من خلال هذه الحزمة دون إضافة سلاسل استعلام يدويا إلى عناوين URL الخاصة بك. يمكنك استيراد الطلبات باستخدام الأمر أدناه.

طلبات الاستيراد

إنشاء قاموس

تحتاج إلى إنشاء قاموس وكلاء يحدد اتصالات HTTP و HTTPS. يمكنك إعطاء متغير القاموس أي اسم مثل "الوكلاء" الذي يعين بروتوكولا إلى عنوان URL الوكيل. علاوة على ذلك ، يجب عليك تعيين متغير URL على موقع الويب الذي يجب عليك التخلص منه.

proxies = {
  "http":'http://203.190.46.62:8080',
  "https":'https://111.68.26.237:8080'
}
url = 'https://httpbin.org/ip'

هنا يحدد القاموس عنوان URL للوكيل لبروتوكولين منفصلين i-e HTTP و HTTPS.

إنشاء متغير استجابة

يجب عليك إنشاء متغير استجابة يستخدم أي من أساليب الطلبات. تأخذ هذه الطريقة وسيطتين:

  • عنوان URL الذي أنشأته
  • القاموس الذي حددته
الاستجابة = الطلبات. الحصول على (عنوان url ، الوكلاء = الوكلاء)
طباعة(response.json())

الإخراج على النحو التالي:

يمكنك أيضا استخدام وحدة الطلبات في Python لتدوير عناوين IP كما هو موضح أدناه.

يجب عليك استيراد وحدة الطلبات باستخدام الأمر أدناه.

طلبات الاستيراد

إنشاء وظيفة sending_request

يجب عليك إنشاء وظيفة sending_request وتفضل استخدام وكيل http لأن معظم الوكلاء المجانيين لا يستخدمون بروتوكول https. استخدمنا حظر المحاولة لأن معظم الوكلاء المجانيين لا يعملون.

def sending_request(session, proxy):
    try:
        response = session.get('http://httpbin.org/ip', proxies={'http': f"http://{proxy}"})
        print(response.json())
    except:
        pass

اقرأ proxies_txt

يجب عليك قراءة ملف list_proxies.txt الذي يحتوي على قائمة الوكلاء المجانية وحفظه في المتغير المسمى الوكلاء.

إذا __name__ == "__main__":
    مع فتح ('list_proxies.txt' ، 'r') كملف:
        الوكلاء = ملف.خطوط القراءة ()

إنشاء جلسة

يجب عليك إنشاء جلسة من وحدة الطلبات واتباع الخطوات التالية.

  • حلقة من خلال الوكيل
  • تمرير الوكيل وجلسة العمل إلى الدالة sending_request
مع الطلبات. الجلسة () كجلسة :
    للوكيل في الوكلاء:
        sending_request(جلسة، وكيل)

سوف تحصل على قائمة الوكلاء كما هو موضح أدناه.

هذه بعض الوكلاء ، والقائمة تطول مع المزيد من الوكلاء ، لكن جميعها لا تعمل.

الحاجة إلى وكلاء

يحتاج كل عمل إلى معرفة الأسباب الخمسة الحيوية للشركات لاستخدام الوكلاء المذكورين أدناه.

القيام بمهام حساسة بشكل مجهول

يشتهر الوكلاء بقدرتهم على إخفاء هوية حركة مرور الويب. لكن معظم الناس يفشلون في فهم أهميتها في صناعة الأعمال. تسمح الخوادم الوكيلة لضباط الأمن والمراسلين بحماية أنفسهم والشركات والمصادر والعملاء والشركاء.

يمكنك أيضا استخدام الوكلاء لحماية التطوير والبحث الحالي وأنشطة الشركة الأخرى. لنفترض أن شركتك تستخدم وكيلا وجاسوسا محتملا لتتبع حركة مرور الويب لتحديد ما يطوره عملك. في هذه الحالة ، لن يتمكن من تتبع موظفيك بسهولة.

تحسين أمن الشركات والمؤسسات

أنت تعلم أن خروقات البيانات مكلفة من حيث الصورة العامة والخسارة المالية. لذلك ، تشعر الشركات بالقلق من المتسللين. لكن الوكلاء يمكن أن يساعدوك لأنهم يقللون من فرصة خرق البيانات. يضيفون طبقة إضافية من الأمان بين خوادمك وحركة المرور الخارجية. تعمل الخوادم الوكيلة أيضا كمخزن مؤقت لأنها تواجه الإنترنت وترحيل الطلبات من أجهزة الكمبيوتر خارج الشبكة.

إذا تمكن المتسللون من الوصول إلى خوادم الوكيل الخاصة بك ، فسيظلون يواجهون مشكلة في الوصول إلى الخادم الذي يقوم بتشغيل برنامج الويب حيث يتم تخزين البيانات.

التحكم في استخدام الموظفين للإنترنت

أنت تعلم أن خروقات البيانات مكلفة من حيث الصورة العامة والخسارة المالية. لذلك ، تشعر الشركات بالقلق من المتسللين. لكن الوكلاء يمكن أن يساعدوك لأنهم يقللون من فرصة خرق البيانات. يضيفون طبقة إضافية من الأمان بين خوادمك وحركة المرور الخارجية. تعمل الخوادم الوكيلة أيضا كمخزن مؤقت لأنها تواجه الإنترنت وترحيل الطلبات من أجهزة الكمبيوتر خارج الشبكة.

إذا تمكن المتسللون من الوصول إلى خوادم الوكيل الخاصة بك ، فسيظلون يواجهون مشكلة في الوصول إلى الخادم الذي يقوم بتشغيل برنامج الويب حيث يتم تخزين البيانات.

توفير النطاق الترددي وتحقيق سرعات أعلى

يفترض بعض الأشخاص أن الخوادم الوكيلة تبطئ سرعات الإنترنت بسبب الكم الكبير من العمل الذي تنجزه في الخلفية. لكن هذا ليس صحيحا دائما. يمكن استخدام الخوادم الوكيلة لتوفير النطاق الترددي وزيادة السرعات من خلال:

  • التخزين المؤقت لصفحات الويب والملفات التي يصل إليها عدة مستخدمين
  • ضغط حركة المرور
  • تجريد الإعلانات من مواقع الويب

ما هي الوكلاء التي يجب استخدامها؟

قد تعتقد أن هناك النوع الوحيد من الوكيل الذي يوفر جميع المزايا للشركات ، مثل:

  • منع خروقات البيانات
  • تحديد أسعار تنافسية
  • جمع بيانات قيمة على وسائل التواصل الاجتماعي
  • بناء استراتيجية فعالة لتحسين محركات البحث

في الواقع ، هناك العديد من أنواع الوكلاء المتاحة ، ويعتمد النوع الذي يجب استخدامه على متطلباتك أو حالة الاستخدام.

فيما يلي أكثر أنواع الوكلاء شيوعا.

بروكسيات مركز البيانات

بروكسيات مركز البيانات هي الوكلاء الأكثر شيوعا التي تستخدمها الشركات في جميع أنحاء العالم. تقوم مراكز البيانات بإنتاج وإدارة هذه الوكلاء. يمكنك استخدام هذه الوكلاء إذا كان عليك تحسين أمان نظامك لأنها رخيصة ويسهل الحصول عليها. لكن بعض مواقع الويب تحظر استخدامها لأنها تربطها بنشاط يشبه الروبوت.

الوكلاء السكنيون

ترتبط البروكسيات السكنية بالمساكن المادية وتستخدم عناوين IP للأشخاص الفعليين التي يوفرها مزودو خدمة الإنترنت (ISPs). عند استخدامها للاتصال بموقع ويب ، فإنك تبدو كمستخدم يومي. وبالتالي ، تقل احتمالية اكتشافك وحظرك. يمكنك كشط كمية كبيرة من بيانات الويب باستخدام الوكلاء السكنيين وتحقيق إخفاء الهوية والأمان المحسنين.

استنتاج

حتى الآن ، ناقشنا أن الوكيل يعمل كترحيل بين العميل وجهاز الخادم. كلما طلبت معلومات ، يرسل جهاز الكمبيوتر الخاص بك هذا الطلب إلى الوكيل ، والذي يرسل المعلومات بعد ذلك إلى الكمبيوتر الهدف باستخدام عنوان IP مختلف. وبالتالي يظل عنوان IP الخاص بك سريا. علاوة على ذلك ، يمكنك استخدام الوكلاء مع وحدة الطلبات في Python وتنفيذ إجراءات مختلفة حسب حاجتك. إذا كنت بحاجة إلى عنوان IP ثابت مع سرعة وكلاء مركز البيانات وإخفاء الهوية العالي للوكلاء السكنيين ، فإن الوكلاء الثابتين هم السبيل للذهاب حيث يظل عنوان IP دون تغيير مع كل طلب جديد. على العكس من ذلك ، توفر الوكلاء الدوارة فوائد في الاختبار والكشط.