شعار proxyscrape داكن

ما هي الروبوتات السيئة، وكيفية اكتشافها وحظرها؟

الروبوتات, Feb-14-20225 دقائق للقراءة

هل يتبادر إلى ذهنك أي شيء جيد عندما تسمع كلمة روبوتات أو هل تعرف كيف تكتشف الروبوتات السيئة وتحظرها؟ أعتقد أن كل ما سمعته هو عن البوتات السيئة ناهيك عن كيفية اكتشافها وحظرها. ومع ذلك، ليست كل الروبوتات سيئة، وهناك روبوتات جيدة. هذه المقالة

هل يتبادر إلى ذهنك أي شيء جيد عندما تسمع كلمة روبوتات أو هل تعرف كيف تكتشف الروبوتات السيئة وتحظرها؟ أعتقد أن كل ما سمعته هو عن البوتات السيئة ناهيك عن كيفية اكتشافها وحظرها.

ومع ذلك، ليست كل الروبوتات سيئة، وهناك روبوتات جيدة. تدور هذه المقالة حول الروبوتات السيئة، وكيف يمكنك التمييز بين الروبوتات الجيدة والسيئة، والضرر الذي يمكن أن تسببه لموقعك الإلكتروني. أخيرًا وليس آخرًا، ستكتشف كيف يمكنك منع عواقب الروبوتات السيئة.

أولاً، دعنا نتعمق في ماهية الروبوتات من منظور غير المتخصصين.

ما هي روبوتات الإنترنت؟

وفقًا لتقرير حديث صادر عن شركة Barracuda للأمن السيبراني (Barracuda)، فإن ثلثي حركة المرور على الإنترنت (64%) تتكون من روبوتات. ومن بين هذا الثلثين من الروبوتات، فإن 40% من حركة المرور على الإنترنت تشكل روبوتات سيئة. هذه الإحصائيات اعتباراً من سبتمبر 2021.

يشير هذا التقرير أيضًا إلى أنه إذا لم نفرض إجراءات أمنية صارمة، فإن هذه الروبوتات ستخترق الدفاعات وتسرق البيانات مما يتسبب في ضعف أداء الموقع واختراق البيانات.

لنلقِ نظرة على بعض المهام اليومية التي يؤديها الروبوت.

أمثلة نموذجية للروبوتات

من الأمثلة اليومية على عملية الروبوتات هي محركات البحث مثل جوجل التي تستخدم الروبوتات للزحف إلى آلاف صفحات الويب لاستخراج محتوى الويب لفهرستها. ثم عندما تبحث عن عبارة ما في جوجل، فإنه يعرف مكان توفر المعلومات المطلوبة.

وبالمثل، تقوم روبوتات المعاملات بإتمام المعاملات نيابةً عن البشر، وتقوم روبوتات التذاكر بشراء تذاكر الأحداث الشهيرة.

أيضًا، منذ تطور الذكاء الاصطناعي (الذكاء الاصطناعي) والتعلم الآلي، استخدمت خدمات ذكاء الأعمال الروبوتات لكشط صفحات المنتجات والشهادات من الملفات الشخصية على وسائل التواصل الاجتماعي لاكتشاف أداء المنتج. 

أحد الأسباب المهمة لتفضيل الروبوتات على البشر في بعض المهام المذكورة أعلاه هو أنها يمكن أن تنفذ التعليمات أسرع بمئات أو آلاف المرات من البشر.

والآن دعنا نتعرف على الفرق بين الروبوتات الجيدة والفرقة.

ما هي أنواع الروبوتات المختلفة؟

يمكنك تصنيف الروبوتات إلى روبوتات جيدة وأخرى سيئة، كما ذكرت سابقاً. كما هو الحال مع كل شيء آخر، دعنا نلقي نظرة على الروبوتات الجيدة أولاً.

روبوتات جيدة

لقد نظرنا للتو إلى مثال على روبوت جيد، وهو روبوت محرك البحث. وبالمثل، هناك روبوتات أخرى جيدة مثل:

  • روبوتات المحرك الصوتي: مثل روبوتات محرك البحث، تقوم هذه الروبوتات بالزحف إلى الويب للعثور على إجابات للاستفسارات التي يبحث عنها المستخدمون باستخدام عمليات البحث الصوتي. ومن بين روبوتات البحث الصوتي المألوفة روبوتات البحث الصوتي " أليكسا " و" أبل بوت" (سيري).
  • روبوتات الشبكات الاجتماعية: تزحف هذه الروبوتات إلى مواقع الويب التي تتم مشاركتها على فيسبوك ومواقع التواصل الاجتماعي الأخرى لتقديم اقتراحات أفضل، ومكافحة الرسائل غير المرغوب فيها، وتحسين بيئة الإنترنت. بعض الأمثلة النموذجية تشمل زاحف فيسبوك وزاحف بينتيريست. 
  • روبوتات حقوق النشر: تبحث هذه الروبوتات في المحتوى الرقمي لاكتشاف انتهاكات حقوق النشر. أحد الأمثلة الرئيسية على ذلك هو معرّف محتوى Youtube المخصص لمالكي حقوق النشر على الشبكة. ومن الأمثلة الأخرى استخدام هذه الروبوتات على وسائل التواصل الاجتماعي، حيث يكون إنشاء المحتوى الأصلي هو الأولوية القصوى.
  • روبوتات التسويق: تستخدم برمجيات تحسين محركات البحث وتسويق المحتوى هذه الروبوتات بشكل أساسي للزحف إلى مواقع الويب بحثًا عن الروابط الخلفية، وتحديد حجم حركة المرور، والبحث عن الكلمات الرئيسية العضوية والمدفوعة. ومن الأمثلة على ذلك روبوتات SEMrush و AhrefsBot.
  • روبوتات البيانات: وهي الروبوتات التي توفر معلومات فورية عن الأخبار والطقس وأسعار صرف العملات. ومن الأمثلة البارزة على ذلك أمازون إيكو وجوجل هوم. 
  • روبوتات المتداولين: تساعدك هذه الروبوتات في العثور على أفضل العروض أو العروض الترويجية على المنتجات التي تخطط لشرائها عبر الإنترنت. ويستفيد المستهلكون وتجار التجزئة من روبوتات المتداولين على أفضل وجه للعثور على أفضل العروض السعرية للتفوق على المنافسين.

ما هي بعض ميزات الروبوتات الجيدة؟

كما ترى، فإن إحدى السمات المميزة لهذه الروبوتات الجيدة هي أنها تؤدي مهمة قيّمة للشركة أو لزوار الموقع الإلكتروني. المطورون الذين قاموا ببنائها لا يفعلون ذلك بنوايا خبيثة.

كما أنها لا تعيق تجربة المستخدم للموقع الإلكتروني الذي تزحف إليه. يحترم الروبوت الجيد أيضًا القواعد الموجودة في ملف robot.txt لموقع الويب الذي يحدد الصفحات التي يجب الزحف إليها وعدم الزحف إليها.

ومع ذلك، على الجانب السلبي، عندما تزور الروبوتات موقعًا إلكترونيًا، قد تستهلك وقت تحميل الخادم وعرض النطاق الترددي. لذلك، حتى الروبوتات الحقيقية يمكن أن تسبب أضراراً دون قصد. وعلاوة على ذلك، يمكن لروبوتات محرك البحث العدوانية أن تقضي على الموقع. 

بعد قول كل ذلك، يمكنك التغلب على هذه العواقب السلبية من خلال تكوينات الخادم المناسبة.

والآن دعنا نتطرق إلى ما هي الروبوتات السيئة.

باب بوتس

وكما أن الروبوتات الجيدة تسبب بعض الأذى للمستخدمين، فإن مطوري البرمجيات يطورون روبوتات سيئة لإلحاق الضرر. بعض الروبوتات السيئة في السوق هي:

الروبوتات التي تضخم مشاهدات الصفحة

يقوم المطورون بتطوير هذه الروبوتات لإرسال حركة مرور وهمية إلى المواقع الإلكترونية لزيادة عدد مشاهدات الصفحة لخداع مالكي الصفحات للاعتقاد بأن عدد صفحاتهم الإجمالي قد زاد. ومع ذلك، في الواقع، لا يوجد مستخدمون فعليون، والروبوتات هي التي تزيد عدد مشاهدات الصفحة أو الإعجابات. 

تستفيد بعض خدمات الويب من هذه الروبوتات لبيع حركة المرور. سيزعمون أنهم سيرسلون مستخدمين حقيقيين إلى موقعك الإلكتروني، وفي الواقع، ينتهي بهم الأمر بإرسال حركة مرور روبوتية.

تشاهد بعض الروبوتات مقاطع الفيديو وتضخم عدد المشاهدات عليها أيضًا.

روبوتات الرسائل غير المرغوب فيها

غالبًا ما تزور روبوتات البريد العشوائي صفحة ويب لتنفيذ مهام غير مرغوب فيها. ومن الأمثلة المهمة على النشاطات غير المرغوب فيها أنها تتفاعل تلقائياً مع النماذج عبر الإنترنت وتترك تعليقات وترسلها بالنقر التلقائي على زر الإرسال. 

على سبيل المثال، يقوم بعض المنافسين لنشاطك التجاري بترك تعليقات مزيفة على المنتج لتوليد تعليقات سلبية حول المنتج. مثال آخر على الاستخدام المتكرر لروبوتات الرسائل غير المرغوب فيها في الحملات السياسية.

ربما لاحظت في كثير من الأحيان أن التعليقات غير المرغوب فيها تحتوي حتى على عناوين URL وحتى أحرف خاصة.

كاشطات الويب

كاشطات الويب هي روبوتات الإنترنت التي تسهل سرقة المحتوى الخاص بك. وعادةً ما تقوم هذه الروبوتات الكاشطة بزيارة صفحات الويب واستخراج البيانات دون موافقة مسؤولي الموقع الإلكتروني.

على الرغم من أن الكشط عبر الإنترنت ليس غير قانوني في مواجهة القانون، طالما أن المحتوى متاح بشكل مفتوح، ولا يحتاج إلى أي توثيق، ولا يخضع لقوانين حقوق النشر، إلا أن المؤلفين عادة ما يكرهون ذلك. قد تغلق أدوات كشط الويب موقع الويب إذا أرسلوا الكثير من الاستعلامات.

روبوت الدفع الآلي

يلجأ الأشخاص في الغالب إلى روبوتات الدفع عند شراء أحذية رياضية محدودة الإصدار للحصول على الأحذية الرياضية. ونظراً لأنه لا يُسمح للمستخدم بشراء سوى زوج واحد فقط بسبب الطبيعة التنافسية للإصدار المحدود، فإنهم يستخدمون روبوتات الدفع لتسريع عملية الدفع عبر الإنترنت.

تحدث عملية اقتناء الأحذية الرياضية هذه بواسطة الروبوتات بسرعة أعلى مما يحلم به البشر فقط. ونتيجة لذلك، لن يكون لدى أولئك الذين يشترون بشكل حقيقي أي فرصة للحصول على أي حذاء رياضي لأنهم لا يستطيعون الوصول إلى أي مكان قريب من سرعة الروبوتات. قد تجد هذه القراءة مثيرة للاهتمام: ما هي روبوتات الأحذية الرياضية، وكيف يتم استخدامها؟

شبكات الروبوتات

شبكات البوت نت هي شبكات حاسوبية اخترقها أحد القراصنة لتنفيذ هجمات إلكترونية مختلفة.

يطور القراصنة شبكات الروبوتات لزيادة قدرتهم على تنفيذ المزيد من الهجمات غير العادية، مثل هجمات DDOS المنسقة عن طريق تنمية وأتمتة وتسريع العملية. ثم تستخدم شبكات الروبوتات أجهزتك للاحتيال وإزعاج أجهزة الآخرين دون علمك أو موافقتك.

ثم يطلق على هذه الأجهزة المصابة اسم أجهزة زومبي. لمزيد من المعلومات حول شبكات الروبوتات، يمكنك الرجوع إلى هذه المقالة.

روبوتات الاستيلاء على الحسابات

وعادةً ما تسرق هذه الروبوتات بيانات اعتماد تسجيل الدخول عن طريق استخدام اثنين من أكثر الأساليب الآلية شيوعًا المعروفة باسم حشو بيانات الاعتماد واختراق بيانات الاعتماد. يستخدم الأسلوب الأول محاولات تسجيل دخول جماعية للتحقق من صحة زوج اسم المستخدم وكلمة المرور الذي سرقوه.

في المقابل، تتضمن الطريقة الأخيرة محاولة الروبوتات تجربة قيم مختلفة لزوج اسم المستخدم وكلمة المرور. ثم تنجح الروبوتات في نهاية المطاف وتخترق نظام كمبيوتر يمكن أن يكون له عواقب بعيدة المدى.

روبوتات البطاقات وتكسير البطاقات

كما قد تكون خمنت بشكل صحيح، يمكن أن تحدث عمليات الاحتيال على بطاقات الائتمان على أي موقع إلكتروني يستخدم معالج دفع. يستخدم القراصنة روبوتات خبيثة للتحقق من أرقام بطاقات الائتمان التي سرقوها عن طريق إجراء مدفوعات بسيطة تُعرف باسم Carding. 

كما أنهم سيستخدمون أيضًا تكسير البطاقات لتحديد المعلومات المفقودة مثل تواريخ انتهاء الصلاحية وأرقام CVV.

وكثيراً ما تحدث هذه التهديدات لصناعات التجزئة والترفيه والسفر.   

كيفية اكتشاف الروبوتات الآلية السيئة

يتطلب اكتشاف وإدارة الر وبوتات قدراً كبيراً من التحري والخبرة لأن المخترقين يصممون الروبوتات لتكون غير مرئية. أنت بحاجة إلى البحث بعمق لمعرفة ما إذا كان موقعك يحتوي على أي حركة مرور للبوتات. من ناحية أخرى، يجب أن يكون لديك الحد الأدنى من الإيجابيات الخاطئة (حيث يتم الخلط بين البشر والبوتات) والسلبيات الخاطئة (عندما تتعرف على البشر عن طريق الخطأ على أنهم روبوتات سيئة).

على أي حال، إليك بعض المؤشرات على أن الروبوتات قد تكون تسللت إلى نظامك:

ارتفاع غير منتظم في حركة المرور الخاصة بك

سيتمكن أي مالك موقع من الوصول إلى بيانات مقاييس الموقع. على سبيل المثال، بيانات تحليلات جوجل. لذلك عندما تستعرض تلك المقاييس، إذا لاحظت أن هناك زيادة كبيرة في عدد الزيارات من مواقع غير معتادة، فهذا يشير إلى أن الروبوتات تتفاعل مع موقعك.

في مثل هذه الظروف، قد تلاحظ زيادة أعلى في معدل الارتداد. قد تنشأ المواقع التي تحصل منها على هذه الزيارات من أماكن لا تحصل منها عادةً على زوار.

من خلال فحص رأس الطلب

في معظم الحالات، لا ترسل بعض الروبوتات الأقل تطوراً جميع الرؤوس التي يرسلها المتصفح عادةً. في الواقع، ينسون إرسال رأس وكيل المستخدم.

الروبوتات المتطورة التي ترسل عادةً عناوين لا ترسل أكثر من سلسلة وكيل المستخدم. لذلك إذا كنت تتلقى طلبات بعناوين قليلة أو بدون عناوين، فهذا يشير إلى أن الروبوتات من المحتمل أن تقوم بتقييم موقعك الإلكتروني. في المقابل، ترسل المتصفحات عدداً معقولاً من معلومات العناوين.

أصبح أداء الخادم بطيئاً إلى حد كبير

كما تعلمت أعلاه، عندما تصل الروبوتات إلى موقعك الإلكتروني، فإنها تستهلك معظم موارد موقعك الإلكتروني، بما في ذلك النطاق الترددي. لذلك إذا كنت تتلقى أكواماً من الطلبات من الروبوتات خلال فترة زمنية قصيرة، فهذا يعني أن موقعك الإلكتروني سيكون أبطأ بكثير.

ومع ذلك، فإن بعض الروبوتات الماكرة تتصرف بطريقة تجعلها غير ملحوظة وتنفذ أنشطتها على غرار الإنسان. فهم يرسلون طلبات قليلة جداً كما يفعل الإنسان في هذه العملية.

لذلك لا يمكنك دائمًا الاعتماد على التباطؤ في الأداء كمقياس لقياس حركة مرور الروبوتات.

ارتفاع مدة الجلسة أو انخفاضها

عادةً ما تكون مدة الجلسة أو مقدار الوقت الذي يقضيه المستخدم على الموقع الإلكتروني ثابتًا. ولكن، قد تعني الزيادة المفاجئة في مدة الجلسات أن الروبوتات تتصفح موقعك الإلكتروني بمعدل أقل. من ناحية أخرى، قد تنقر الروبوتات على صفحات الموقع بشكل أسرع من المستخدم البشري، مما يؤدي إلى انخفاض تلقائي في مدة الجلسة.

التحويلات غير المرغوب فيها ونشر المحتوى

قد تواجه عمليات إرسال النماذج من عناوين بريد إلكتروني غير معتادة وأرقام هواتف وأسماء وهمية.

من الطرق الأخرى التي يمكنك من خلالها اكتشاف الروبوتات بسهولة هي المحتوى الذي قد تنشره. على عكس البشر، ليس لدى الروبوتات الوقت الكافي لصياغة محتوى عالي الجودة. لذلك عندما تبدأ في تلقي تعليقات أو منشورات غامضة أو غبية أو منشورات تحتوي على عناوين URL مضمنة، عليك أن تدرك أنها ليست من أشخاص حقيقيين بل روبوتات.

كيفية حظر الروبوتات الضارة

كخطوة أولية لمكافحة هذه الروبوتات السيئة، يجب عليك إعداد ملف robot.txt الخاص بموقعك. يمكنك بلا شك تكوين هذا الملف للتحكم في الصفحات التي يمكن للروبوت الوصول إليها وتقليل تفاعلات الروبوت مع معظم الصفحات على موقعك الإلكتروني.

تتضمن بعض التدابير الأخرى ما يلي:

وضع حدود للمعدل استناداً إلى عنوان IP- عنوان IP هو معرّف فريد للجهاز الذي يقيّم موقعك الإلكتروني. لذا، بصفتك مسؤولاً عن الويب، يمكنك تحديد عدد الطلبات التي يقوم بها عنوان IP إلى موقعك في فترة زمنية معينة.

حظر عناوين IP المشبوهة - إلى جانب تعيين حدود المعدل، يمكن لعناوين الويب الخاصة بك حظر قائمة عناوين IP المشبوهة التي تنشأ منها الطلبات. يمكنك استخدام WAF( جدار حماية تطبيقات الويب) لهذا الغرض.

استخدام خدمات الكابتشا - ربما صادفتك خدمة الكابتشا عند الدخول إلى بعض المواقع الإلكترونية. عندما تكتشف خدمة الكابتشا سلوكًا غريبًا أو شبيهًا بسلوك الروبوتات، فإنها تجعلك تحل المشكلة قبل أن تمنح الوصول إلى الموقع.

الخاتمة

نأمل أن تكون قد حصلت على نظرة عامة شاملة عن الروبوتات الضارة وكيفية اكتشافها والتخلص منها في النهاية. في الواقع، ستحتاج إلى بعض الروبوتات الحقيقية التي لا تسبب أي ضرر لنظامك. ومع ذلك، سيكون من المفيد أن تتخلص من الروبوتات السيئة بأي ثمن لأن الضرر الذي يمكن أن تسببه شديد للغاية.

نأمل أن تكون هذه المقالة مفيدة، وترقبوا المزيد من المقالات.