نگاهي مختصر به كلاهبرداري‌هاي پرتكرار توسط هوش مصنوعي
اميرحسين صفدري
هوش مصنوعي كه اين روزها به‌طور مخفف آن را AI نيز مي‌نامند، به عنوان يكي از مهم‌ترين دستاوردهاي انسان در قرن 21، در حال گسترش سيطره خود در زمينه‌هاي مختلف علمي، فني، صنعتي، هنري، ادبي و... است. تا به الان تعريف دقيق و جامعي از هوش مصنوعي ارايه نشده است، اما به زبان ساده شايد بتوان گفت هوش مصنوعي تكنولوژي است كه به نحوي قابليت تفكر دارد، البته اين قابليت تفكر با چيزي كه ما به عنوان تفكر انساني مي‌شناسيم تا حد زيادي تفاوت دارد.
بايد بگويم كه هوش مصنوعي مشتمل بر مجموعه‌اي از علوم، نظريه‌ها و فنون، به ويژه رياضي، آمار، احتمالات و علوم رايانه است كه هدف آن بازتوليد ظرفيت‌هاي شناختي انسان توسط ماشين است. هوش مصنوعي مجموعه‌اي از تئوري‌ها و تكنيك‌هايي است كه به منظور توليد ماشين‌هايي با قابليت شبيه‌سازي هوش انساني، پياده‌سازي و اجرا مي‌شود. هوش مصنوعي علاوه بر مزايايي كه دارد، بي‌شك معايبي هم دارد كه مي‌تواند براي جامعه بشري نگران‌كننده و خطرناك باشد، به گونه‌اي كه در اكثر كشورهاي دنيا جهت نظام‌مند كردن آن بررسي‌هايي انجام شده است.
همان‌طور كه بيان شد تكنولوژي هوش مصنوعي اگر چارچوب قانونمندي نداشته باشد، مي‌تواند خطرناك باشد، چراكه اين روزها فضاي مجازي و اينترنت جزيي از زندگي بشر شده است كه همين مساله باعث شده افراد سودجو به كمك هوش مصنوعي و پيشرفت روزافزون تكنولوژي دست به كارهاي خطرناك و كلاهبرداري‌هاي زيادي در اين فضا بزنند كه گاهي اين آسيب‌ها اصلا قابل جبران نيست، به اين دليل كه بسياري از افراد جامعه ناآگاه از وجود قدرت هوش مصنوعي هستند و لذا بر همين اساس قرباني كلاهبرداري‌هاي مبتني بر هوش مصنوعي و نرم‌افزارهاي خاص توسط هوش مصنوعي مي‌شوند.
اين روزها يكي از معروف‌ترين و پرتكرارترين كلاهبرداري‌ها توسط هوش مصنوعي كلاهبرداري به واسطه تغيير صدا يا عكس يا فيلم افراد است. به زبان ساده ديپ فيك يا همان جعل عميق كه به معناي يادگيري عميق و جعلي است، يك تكنيك براي تركيب تصوير و صدا انسان مبتني بر هوش مصنوعي است؛ جعل عميق تصاوير و فيلمهاي موجود را روي تصاوير يا فيلمهاي منبع قرار مي‌دهد و از يك تكنيك يادگيري ماشين استفاده مي‌كند و عكس يا فيلم جعلي مي‌سازد كه فرد يا افرادي را در حال انجام يك كار در موقعيتي نشان مي‌دهد كه هرگز در واقعيت اتفاق نيفتاده است.
متاسفانه چنين فيلمهاي جعلي و فيك مي‌تواند يك فرد را در حال انجام اقدامات غيراخلاقي (مستهجن) يا هر كار ديگري نشان دهد كه هرگز در آن شركت نكرده يا حتي خبر هم ندارد يا مي‌تواند براي تغيير كلمات يا حركات يك فرد سرشناس و معروف مورد استفاده قرار گيرد تا به نظر برسد آن فرد چيزي را گفته كه هرگز به زبان نياورده است. جعل عميق مي‌تواند با ايجاد فيلمهاي غيراخلاقي براي افراد جامعه، ساخت اخبار جعلي و كلاهبرداري‌هاي مخرب و... استفاده شود كه آسيب‌هاي غيرقابل جبراني را براي جامعه و افراد ايجاد مي‌كند.
به عنوان يك پژوهشگر علم حقوق اين نكته مهم را بايد بگويم كه تا قبل از ظهور هوش مصنوعي تغيير محتواي عكس يا صدا يا فيلم افراد بسيار كار سختي بود و هر كسي نمي‌توانست چنين تغييراتي را ايجاد كند؛ اما اين روزها با ظهور و پيشرفت هوش مصنوعي و به كمك جعل عميق افراد مبتدي هم به راحتي مي‌توانند دست به ساخت فيلم يا عكس يا صدا جعلي و فيك بزنند، چراكه هوش مصنوعي قدرت چشمگيري در ساخت چنين محتواي جعلي دارد.
بايد آگاه باشيم و بدانيم كه افراد سودجو مي‌توانند يك عكس يا فيلم جعلي جهت ترويج موضوع مدنظر خود را توسط هوش مصنوعي خيلي دقيق و منظم توليد كنند كه اين مساله ممكن است خطرات زيادي را براي افراد به همراه داشته باشد، چراكه افراد جامعه چون از قدرت هوش مصنوعي آگاه نيستند ممكن است به سادگي آن عكس يا ويديو‌هاي جعلي و ساختگي را باور كنند و اين‌گونه افراد جامعه دچار آسيب‌هاي مادي و معنوي زيادي بشوند كه بعضا قابل جبران نيست.
طبق اخبار جهاني منتشر شده، كلاهبرداري‌هايي كه اين روزها در اكثر كشورهاي دنيا به كمك هوش مصنوعي زياد رخ مي‌دهد، تغيير صداي افراد است، بدين صورت كه اكثر ما صداي واقعي اعضاي خانواده يا دوستان يا افراد معروف را مي‌شناسيم و هوش مصنوعي مي‌تواند با تقليد دقيق اين صداها به‌طوري كه ما اصلا متوجه جعلي بودن آن نشويم ما را قرباني خواسته خودشان كنند، كما اينكه اين روزها شاهد اين هستيم كه با صداي خيلي از خوانندگان فوت شده آهنگ‌هاي جديد ساخته و پخش مي‌شود كه بسيار نزديك و شبيه به صداي خود آن افراد است كه به سادگي قابل تشخيص نيست.
بايد بگويم كه هوش مصنوعي به روش جعل عميق يا ديپ فيك مي‌تواند صداي افراد را خيلي دقيق تقليد كند به گونه‌اي كه تا حد زيادي مشابه صداي واقعي آن افراد باشد؛ متاسفانه اين افراد سودجو از پروفايل‌‌هاي رسانه‌هاي اجتماعي افراد در فضاي مجازي قسمتي از صداي يكي از افراد خانواده يا آشنايان شما را به دست مي‌آورند و از هوش مصنوعي براي تكرار صدا و برقراري تماس تلفني جعلي با يكي از اعضاي خانواده يا دوستان آن فرد براي درخواست پول يا هر كار ديگري براي مواقع اضطراري استفاده مي‌كنند و شما هم كه به آن صدا شك نمي‌كنيد درخواست طرف مقابل را قبول كرده و اين‌گونه شما قرباني اين افراد سودجو به كمك هوش مصنوعي مي‌شويد.
هموطنان عزيز نسبت به قدرت هوش مصنوعي اين روزها توجه ويژه داشته باشيد، چراكه ساده‌انگاري شما ممكن است براي شما خطرآفرين باشد، اين سوءاستفاده‌ها ممكن است مانند تماس تلفني يا ويس در فضاي مجازي و... با فردي نزديك به شما انجام شود و تقاضايي از شما باشد كه تشخيص جعلي بودن آن را نمي‌دهيد كه اين صدا واقعي است يا جعلي و شما به آن صدا اعتماد مي‌كنيد و تقاضاي آن فرد آشنا را انجام مي‌دهيد در صورتي كه اصلا آن شخص خودش خبر ندارد كه چنين اتفاقي رخ داده است.
پس آگاه باشيد و بدانيد كه بهتر است براي اينكه قرباني چنين كلاهبرداري توسط جعل عميق كه به كمك هوش مصنوعي اين روزها زياد انجام مي‌شود، نشويد در هنگام تماس با نزديكان خود يا افراد ديگر اگر شك كرديد كه اين صدا ممكن است جعلي باشد يا متعلق به آن فرد نباشد حتما سوالات خصوصي و شخصي كه خود شما و آن فرد از آنها آگاهي داريد را بپرسيد تا مطمئن شويد صدا متعلق به آن شخص بوده و جعلي نيست، چراكه اكثر قربانيان در اين روش مي‌گويند من مطمئن بودم كه آن صدا متعلق به برادر يا مادر يا دوست نزديك من بوده، اما بعد از اينكه آن فرد را ديدند و ماجرا را برايش توضيح دادند و آن فرد اظهار بي‌آگاهي كرد شما تازه آن موقع متوجه مي‌شويد كه قرباني كلاهبرداري به واسطه هوش مصنوعي و جعل عميق شده‌ايد، هرگز اين روزها به هر چيزي كه در فضاي مجازي مشاهده مي‌كنيد، اعتماد نكنيد و اصل را بر جعلي بودن قرار بدهيد مگر آنكه از اصالت آن اطمينان كامل حاصل كنيد.
متاسفانه كلاهبرداري و جرم ديگري كه اين روزها زياد رخ مي‌دهد، سوءاستفاده از عكس يا ويديو افراد است، در اين روش افراد سودجو عكس يا فيلم شما را كه در فضاي مجازي منتشر كرده‌ايد يا به هر طريق ديگري كه به دست آورده‌اند را به كمك هوش مصنوعي و نرم‌افزارهاي خاص مثل ديپ فيك تغيير داده و اين ويديو‌ها يا عكس‌ها را براي افراد نزديك به شما يا خود شما به جهت تهديد به انجام كاري ارسال مي‌كنند كه بعضا اين تغيير محتواي مستهجن و برهنه كه همين مساله در زندگي شما ممكن است تاثيرات منفي زيادي را ايجاد كند، چراكه تا شما بخواهيد شكايت و اثبات كنيد كه اين ويديو يا عكس منتشر شده متعلق به شما نيست و توسط هوش مصنوعي و جعل عميق ساخته شده هم زمانبر و هم كار بسيار سختي است كه در اين فاصله زماني ممكن است شما دچار آسيب‌هاي زيادي شويد كه بعضا قابل جبران نباشد.
ضمنا فراموش نكنيد كه اين روزها افراد سودجو توسط هوش مصنوعي امكان ارسال پيام‌ها يا ايميل‌هاي سفارشي شده را براي هر فردي فراهم كرده كه از اين طريق ممكن است دست به جرم فيشينگ بزنند. در حال حاضر كلاهبرداران و افراد سودجو به راحتي مي‌توانند با دسترسي به داده‌هايي مانند عادت‌‌هاي خريد شما يا مكان‌‌هايي كه به تازگي در آنجا حضور داشته‌ايد يا سليقه شما در امور مختلف و... پيام‌ها يا ايميل‌هايي را ارسال كنند كه جاي هيچ شك و ترديدي را برايتان باقي نگذارند و به كمك ارسال لينك‌هاي مختلف دست به جرم فيشينگ بزنند و شما را قرباني خواسته خود كنند.
پس آگاه باشيد كه اگر اين روزها ايميل يا پيامي از طرف يك دوست يا آنلاين شاپ آشنا يا مراكز مختلف و... به همراه لينك پرداخت يا لينك ورود به سايت دريافت كرديد كه در آن شما را به اسم كوچك خطاب يا ترغيب مي‌كند يا درباره تخفيف خوردن كالايي كه مدنظر شماست، صحبت مي‌كند يا به‌طور كلي راجع به موضوعي خاص كه مدنظر شما بوده است، حرف مي‌زند به احتمال زياد شما باور خواهيد كرد كه اين پيام واقعي است؛ چراكه اين پيام‌ها و ايميل‌ها توسط هوش مصنوعي به‌طور دقيق ساخته شده و باورپذير است، اما ممكن است همين ساده‌انگاري سبب مشكلات زيادي در آينده براي شما بشود پس تا از اصالت آن پيام مطمئن نشديد هيچ اقدامي انجام ندهيد.
ضمنا بايد يادآور شوم كه قانونگذار ما در ماده 16 قانون جرايم رايانه‌اي در خصوص هتك حيثيت مردم در فضاي مجازي به صراحت مي‌گويد: هر كس به وسيله سيستم‌هاي رايانه‌اي يا مخابراتي، فيلم يا صوت يا تصوير ديگري را تغيير دهد يا تحريف كند و آن را منتشر يا با علم به تغيير يا تحريف منتشر كند، به نحوي كه عرفا موجب هتك حيثيت او شود، به حبس از 91 روز تا 2 سال يا جزاي نقدي يا هر دو مجازات محكوم خواهد شد و در تبصره همين ماده قانونگذار ما مي‌گويد: چنانچه تغيير يا تحريف به صورت مستهجن باشد، مرتكب به حداكثر هر دو مجازات مقرر محكوم خواهد شد.
در ماده 17 قانون جرايم رايانه‌اي هم قانونگذار ما به صراحت تمام در خصوص افشاي اسرار خصوصي ديگران در فضاي مجازي بيان مي‌كند: هر كس به وسيله سيستم‌هاي رايانه‌اي يا مخابراتي صوت يا تصوير يا فيلم خصوصي يا خانوادگي يا اسرار ديگري را بدون رضايت او منتشر كند يا در دسترس ديگران قرار دهد، به نحوي كه منجر به ضرر يا عرفا موجب هتك حيثيت او شود، به حبس از 91 روز تا 2 سال يا جزاي نقدي يا هر دو مجازات محكوم خواهد شد.
در پايان بايد بگويم كه هموطنان عزيز هوشياري و آگاهي شما بهترين سلاح براي مقابله با كلاهبرداري توسط هوش مصنوعي است، شما بايد بدانيد كه هوش مصنوعي قدرت و مهارت فوق‌العاده دقيقي دارد و هرگز اين مساله را ساده نپنداريد؛ البته كه نبايد هم انتظار داشته باشيد كه بتوانيد به راحتي متن نوشته شده يا عكس يا فيلم ساخته شده توسط هوش مصنوعي را سريع و دقيق تشخيص بدهيد.
اما چالش اساسي اين روزها براي جامعه بشري قدرت و مهارت فوق‌العاده هوش مصنوعي است كه با يادگيري مهارت‌هاي مختلف شما فقط مي‌توانيد تشخيص بدهيد كه محتواي توليد شده ممكن است جعلي يا فيك باشد. پس بر اين اساس هر گونه تهديد عليه خود را در فضاي مجازي بدون هيچ ترسي سريعا به پليس فتا يا دادسراي محل اقامت خود اطلاع بدهيد و تحت هيچ شرايطي تن به خواسته افراد سودجو ندهيد.
پژوهشگر علم حقوق