شهر سان‌فرانسیسکو در آمریکا چندی پیش قانونی را مطرح کرد که هرگونه استفاده‌ی دولت از فناوری تشخیص چهره را ممنوع خواهد کرد. در صورت تصویب نهایی، سان‌فرانسیسکو را می‌توان اولین شهر آمریکایی نامید که چنین محدودیتی را برای فناوری وضع می‌کند. امروزه پلیس، آژانس‌های دولتی و کسب‌وکارهای متعددی به استفاده از فناوری تشخیص چهره تمایل نشان داده‌اند، اما قوانین محکمی برای تنظیم مقررات استفاده از فناوری حتی در کشوری همچون آمریکا هم وجود ندارد.
بسیاری از مردم نگران فناوری تشخیص چهره و ردگیری شدن در مکان‌های عمومی هستند. به‌علاوه، تشکیل پروفایل از خصوصیات و رفتارها و سوابق سفرهای شخصی نیز آن‌ها را نگران می‌کند. درمقابل به‌نظر نمی‌رسد دولت‌ها نگرانی خاصی در این مورد داشته باشند و برای قانونگذاری دقیق‌تر اقدامی انجام دهند. همین توجه‌نکردن به نگرانی‌ها و وجود نداشتن قوانین روشن، نگرانی اصلی در ارتباط با فناوری تشخیص چهره محسوب میشود.
رومن چادهوری، مدیر بخش هوش مصنوعی شرکت اکسنچر در واکنش به قانونگذاری شهر سان‌فرانسیسکو توییت کرده بود:
ما نقصی جدی در قانونگذاری این فناوری‌ها داریم. آیا ما در وضعیتی خطرناک زندگی می‌کنیم که به چنین فناوری‌هایی نیاز پیدا کرده‌ایم؟ آیا نظارت‌های تنبیهی، تنها راه رسیدن به جامعه‌ای سالم هستند؟
وقتی با فناوری‌های جدید و پرطرفدار همچون واقعیت مجازی، واقعیت افزوده و موارد مشابه روبه‌رو می‌شویم، در اولین قدم باید یک سؤال با مضمون چرایی دستیابی به فناوری‌ها بپرسیم. چرا دولت‌ها یا کسب‌وکارها به فناوری تشخیص چهره نیاز دارند؟ قطعا مردم قانونگذاری فناوری‌ها را انجام نمی‌دهند. افرادی در کار قانونگذاری هستند که بیشترین نفع را از آن می‌برند. آن‌ها یا ازطریق فروش تجهیزات یا استفاده از فناوری برای کاهش نیروی کاری از دستاوردهای جدید سود می‌برند. درواقع هیچ‌گاه هدف نهایی جامعه یا تمدن نیست و تقریبا همه‌چیز به پول و قدرت ختم میشود.
فناوری تشخیص چهره و تهدیدی که به‌مرور خود را نشان می‌دهد
پول و قدرت را نمی‌توان تنها دلایل پشت‌صحنه برای دستیابی به فناوری تشخیص چهره دانست. در طول تاریخ، همکاری و کنارهم‌بودن یکی از پایه‌های اصلی بقا در انسان‌ها بوده است. به‌علاوه، نیاز به دسته‌بندی انسان‌ها و تشکیل گروه‌هایی موسوم به «دیگران» همیشه در همه‌ی جوامع حس میشود. متأسفانه در مسیر همین برداشت‌ها، سوءتفاهم‌ها و گمان‌هایی پیرامون شخصیت و رفتارهای افراد ایجاد می‌شوند. درنهایت به‌خاطر همین سوءبرداشت‌ها ترس و عدم امنیت در میان شهروندان، دولت‌ها و مجربان قانون نفوذ می‌کند.
امروزه ترکیب شدن ترس همیشگی انسان‌ها با جوامعی بسیار بزرگ‌تر و پویاتر و متنوع‌تر، رفتارهای جدیدی را در میان ما انسان‌ها ایجاد کرده است. ما امروز همدیگر را می‌شناسیم، اما شناخت کافی از هم نداریم. به‌علاوه تلاش می‌کنیم تنها در مواقع ضرورت با هم ارتباط برقرار کنیم. در ادامه، ترس ما باعث میشود تا سرمایه‌گذاری بیشتری روی مباحث امنیتی داشته باشیم. برای درک بهتر کافی است به تعداد بالای دوربین‌های مداربسته در فروشگاه‌ها و خانه‌های امروزی دقت کنید.
اگر انسان‌ها رفتارهای اجتماعی‌تر، بازتر و هم‌دلانه‌تری در جامعه داشته باشند، ترس موجود نیز از بین می‌رود. درنتیجه‌ی مقابله با همین ترس کاذب، می‌توان امنیت بیشتر را احساس کرد. همه‌ی این موارد با اهمیت دادن بیشتر به یکدیگر در جامعه فراهم خواهند شد.
تجربه‌ی نظارت بر یکدیگر
ما انسان‌ها به‌جای تلاش برای زندگی اجتماعی‌تر ، به سمت نظارت بر یکدیگر پیش رفتیم . به‌عنوان مثال ما با استفاده از دوربین‌های نظارتی توانایی خود در تشخیص گروه «دیگران» در جامعه را افزایش دادیم. با ارزان‌تر شدن دوربین‌های نظارت تصویری، انواع گوناگونی از کسب‌وکارها با استفاده از محصولات و ابزارهای جدید، ظرفیت‌های خود را در حوزه‌ی نظارت افزایش دادند و با اضافه کردن دوربین‌های متعدد در فروشگاه‌ها و مراکز فیزیکی، تمام تلاش خود را برای جلوگیری از دزدی و خشونت به کار گرفتند.
امروزه نیروهای حفاظتی در دفاتر و سازمان‌های گوناگون درکنار مشاهده‌ی مردم از نزدیک، با دقت به نمایشگرهای دوربین‌های نظارتی نگاه می‌کنند. حتی برخی اوقات دوربین‌ها به‌صورت کامل جایگزین نظارت از نزدیک شده‌اند. به‌مرور زمان، دوربین‌ها پیشرفته‌تر شدند و برخی از آن‌ها جای نیروهای انسانی را در نظارت گرفتند. در چنین روندی، نیاز به نظارت ویدئویی نقش بازدارنده‌ی روانی را برای ما ایفا کرد و شاید حتی به ابزاری الزامی تبدیل شد.
با نگاهی به روندهای بالا به این نتیجه می‌رسیم که رفتارها و حرکت‌های همه‌ی ما از مدت‌ها پیش ضبط شده است. منتهی ما اطلاع نداشتیم که چه کسی تصاویر ضبط‌شده را مشاهده می‌کند و آیا آن‌ها عملکردی مبتنی بر ویدئوهای نظارت تصویری در قبال ما خواهند داشت؟
با کوچک‌تر و ارزان‌تر شدن دوربین‌های نظارتی، نفوذ آن‌ها به زندگی مردم بیشتر شد. درنتیجه کاربران عادی به این نتیجه رسیدند که از فناوری نظارت نیز در زندگی روزمره‌ی خود استفاده کنند. در ادامه‌ی مسیر، دوربین‌ها به اکثر محصولات افراد ما نفوذ کردند و به‌نوعی عضوی عادی در زندگی همه شدند. درنهایت، نظارت عملکردی مشترک بین دولت‌ها، سازمان‌ها و هریک از ما شد که گوشی هوشمند مجهز به دوربین یا دوربین فیلم‌برداری با خود حمل می‌کنیم.
دوربین‌های موجود در خانه‌ها، برخلاف نظارت‌های عمومی موجود در جوامع، به‌عنوان ابزارهایی مفید دربرابر تهدید «دیگران» شناخته می‌شوند. خانه‌ها فضاهایی محدود هستند و هرگونه فعالیت و فرایند غیرعادی در آن‌ها به‌راحتی توسط مالک خانه یا سیستم هوشمند شناسایی میشود. مالکان خانه‌ها، خصوصا انواع گران‌قیمت آن‌ها، حساسیت بالایی روی دارایی‌های خود دارند و حتی از سرویس‌های جانبی درکنار دوربین‌های نظارتی استفاده می‌کنند. برخی از آن‌ها حتی با شرکت‌های امنیتی قرارداد امضا می‌کنند تا حداکثر اطمینان را از امنیت نهایی دارایی‌های خود داشته باشند.
نظارت همه‌گانی و در همه‌ی بخش‌های جامعه، برخلاف نظارت تصویری در خانه آسان نیست. دوربین‌های بی‌شماری که در شهرها نصب می‌شوند، حجم زیادی از ویدئو را تولید می‌کنند که پردازش آن‌ها مشکل قابل‌توجهی خواهد بود. تعداد دوربین‌ها و حجم اطلاعات آن‌ها به‌قدری زیاد است که افراد یا منابع کافی برای مشاهده و پردازش و درک آن‌ها وجود ندارد. در چنین وضعیتی وقتی حتی جرمی صورت بگیرد، مجرمان ساعت‌ها یا روزها پس از وقوع جرم شناسایی می‌شوند، چرا که مشاهده و بررسی ویدئوی دوربین‌های نظارتی عموما زمان زیادی طلب می‌کند.
حتی اگر روشی برای پردازش بهینه‌ی ویدئوها و تشخیص دقیق‌تر فرد یا وسیله‌ی نقلیه‌ی مجرم کشف شود، منابع کافی از اطلاعات مناسب در دست نیست. درواقع بسیاری از سیستم‌های نظارتی اطلاعات مفید مورد نیاز برای تشخیص مجرمان را ارائه نمی‌دهند و شاید داده‌های آن‌ها درنهایت بی‌فایده باشد.
وقتی یک فناوری، نتایج مورد نیاز را ارائه ندهد، عموما نوآوری‌هایی تکراری در آن لحاظ میشود که به بهینه‌سازی شهرت دارند. شاید همین روند برای دوربین‌های نظارتی کنونی نیز در حال رخ دادن باشد. به‌عنوان مثال، مقامات متعدد در سرتاسر جهان، سیاست نصب دوربین‌های نظارتی روی لباس افسران پلیس را اجرا کرده‌اند. یکی از دلایل اجرای این طرح، شاید قانون‌مندتر کردن شهروندان و خود پلیس‌ها باشد. کاربرد دیگر، شاید در آینده‌ی نزدیک پیاده شود و همین دوربین‌ها نظارت زنده را انجام دهند.
رویکرد بالا در نصب دوربین‌های لباسی، نقاط ضعف خاص خود را دارد. هنوز قانونگذاری مشخصی برای استفاده از دوربین‌ها وجود ندارد. به‌علاوه بسیاری از مراکز پلیس، با چالش ذخیره‌سازی و پردازش حجم بالای داده‌های ضبط‌شده روبه‌رو هستند. درنتیجه بسیاری اعتقاد دارند برای حل چالش‌های نظارت و شناسایی مجرمان به‌جای استفاده از فناوری‌های جدید، باید سیاست‌های پلیس و ارتباط آن‌ها در جامعه را بهبود داد.
نسل بعد فناوری نظارت تصویری
نتیجه‌ی اولیه‌ی تلاش‌های بی‌شمار برای بهبود سیستم‌های نظارت تصویری این است که امروز دوربین‌های نظارتی بی‌شماری داریم که هرکدام به دلایل گوناگون کارایی لازم را ندارند. به‌علاوه با وجود پایین بودن کارایی، امروزه در حوزه‌های متنوعی از آن‌ها استفاده می‌کنیم و از فروشگاه‌ها و خانه‌ها تا بسیاری مناطق دیگر، از دوربین‌ها بهره می‌بریم.
در موقعیت نامناسب کنونی که نیاز به دخالت بیشتر نیروی انسانی دارد، جست‌وجو برای راهکارهای بهینه افزایش می‌یابد. افراد و سازمان‌ها تلاش می‌کنند تا راهکاری سریع و ارزان توسعه دهند که به کمک فناوری‌های قبلی بیاید. آن‌ها دقت نمی‌کنند که قابلیت‌های جدید و افزودنی به فناوری‌های قبلی شاید نتایج متفاوتی با انتظارات آن‌ها داشته باشند. درنتیجه‌ی همین روند، تشخیص چهره به‌عنوان نوشدارویی برای نظارت تصویری معرفی میشود.
رسانه‌ها نقشی اساسی در پیاده‌سازی فناوری‌های جدید داشته‌اند. در فیلم‌های علمی‌تخیلی، فناوری تشخیص چهره با دقت بالایی عمل می‌کند. در فیلم‌ها، پلیس‌های قهرمانی را می‌بینیم که با استفاده از تشخیص چهره به‌راحتی مجرمان را شناسایی می‌کنند. چنین نتایجی قطعا غیرواقعی هستند. پلیس‌های فیلم‌ها در دنیایی خیالی زندگی می‌کنند که هیچ‌گاه جزئیات جوامع زنده و پویا با ایده‌ها و نظرات گوناگون را ندارند.
آنچه که در فیلم‌ها به‌عنوان زیبایی و قدرت فناوری نمایش داده میشود، نقش مهمی در توسعه‌ی فناوری‌های جدید دارد. فعالان دنیای فناوری از همین تصاویر به‌عنوان الگویی برای ساخته‌های بعدی خود استفاده می‌کنند. به‌علاوه مقامات با دیدن همین دستاوردهای خیالی ادعای ارائه‌ی به‌روزترین و برترین فناوری‌ها را دارند و با همین ادعا، بودجه‌های مورد نظر خود را دریافت می‌کنند.
فعالان دنیای فناوری شاید نگرانی یا آشنایی در ارتباط با نتایج دستاوردهای خود در جامعه نداشته باشند. درمقابل، مقامات دولتی قرار دارند که احتمالا نتایج و عواقب فناوری‌های جدید را با هدف فراهم کردن زمینه‌ای برای آزمایش‌های شرکت‌های فناوری نادیده می‌گیرند یا درکی از عواقب تصمیمات خود ندارند.
فناوری تشخیص چهره و تهدیدی که به‌مرور خود را نشان می‌دهد
تشخیص چهره در نگاه اول ادعای شناسایی و دستگیری سریع و آسان مجرمان را دارد؛ همان روندی که در فیلم‌ها نمایش داده میشود و هیچ خبری هم از فرایندهای دشواری همچون شناسایی بهتر رفتارهای مردم و جامعه در آن نیست. ازطرفی برای پلیس، سروکار داشتن با نرم‌افزار راحت‌‌تر از مقابله و رویارویی مستقیم با مجرمان احتمالی خواهد بود. درواقع آن‌ها برای راحتی خود به‌جای بازجویی‌های مستقیم و بررسی شواهد مبنی بر مجرم بودن یا نبودن افراد، به تشخیص‌‌های نرم‌افزاری تکیه می‌کنند. درنتیجه‌ی چنین اقداماتی، شبکه‌ی درهم‌تنیده از دوربین‌های نظارتی که شاید قابلیت تشخیص چهره هم داشته باشند، به‌جای شناخت بهتر از جامعه و رفتارهای مردم استفاده می‌شوند.
پاسخ به سؤال‌های بالا و انتخاب فناوری‌هایی که به حل چالش‌ها کمک می‌کنند، امروزه بدون مشورت و ورودی اطلاعاتی از سمت مردم، توسط دولت‌ها و سازمان‌های بزرگ انجام میشود. امروزه ابزارهای تشخیص چهره که به‌راحتی و با هزینه‌های پایین در دسترس هستند، بدون هیچ‌گونه تنظیم مقررات مشخص استفاده می‌شوند. همین استفاده‌ی بدون قانونگذاری و بدون شفافیت، نگرانی‌های زیادی را در میان مردم ایجاد می‌کند.
وقتی فناوری‌های تشخیص چهره شرکت‌هایی همچون آمازون به‌صورت گسترده توسط دولت‌ها و سازمان‌ها مورد استفاده قرار بگیرد و مردم هم به‌عنوان موضوعات آزمایش در آن‌ها حضور داشته باشند، باید منتظر ظهور فناوری‌های بعدی هم باشیم. فناوری بعدی هوش مصنوعی خواهد بود که با تکیه بر داده‌های تشخیص چهره می‌تواند نتیجه‌گیری‌‌هایی را پیرامون رفتارها و اخلاقیات مردم انجام دهد. درحال‌‌حاضر چینی‌ها پیش‌گام این کاربرد فناوری هستند و در سطوح گسترده خصوصا برای نظارت بر جامعه‌ی مسلمان ۱۱ میلیون نفری در کشورشان، از پروفایل‌سازی بر مبنای تشحیص چهره استفاده می‌کنند.
نیویورک تایمز اخیرا در مقاله‌ای جامع به بررسی استفاده از هوش مصنوعی و تشخیص چهره در چین پرداخته است. در بخش‌هایی از مقاله می‌خوانیم:
فناوری تشخیص چهره که به‌سرعت در شبکه‌ی بزرگ دوربین‌های نظارت تصویری چین پیاده میشود، به‌صورت اختصاصی اویغورها (اقلیت مسلمان چین) را مورد مطالعه قرار می‌دهد و همچنین رفت‌وآمدها و حضور آن‌ها را کنترل می‌کند. چنین رویکردی چین را به پیش‌گام نسل بعدی فناوری با هدف نظارت بر مردم تبدیل خواهد کرد؛ روندی که شاید به نژادپرستی خودکار در جوامع منجر شود.
مقامات و شرکت‌های چینی با استفاده از فناوری تشخیص چهره و هوش مصنوعی متصل به آن، مظنون‌های ارتکاب به جرم را در رویدادهای عمومی بزرگ شناسایی می‌کنند. به‌علاوه در موقعیت‌های خاص دیگر نیز از فناوری استفاده میشود که می‌توان به شناسایی افراد در هتل‌ها و فرودگاه‌ها و حتی تبلیغات هدف‌مند اشاره کرد. آمریکا نیز در پیاده‌سازی فناوری تشخیص چهره دست‌کمی از چین ندارد. آن‌ها نیز در مراکز امنیتی مرزها خود و همچنین با هدف نمایش تبلیغات هدف‌مند از تشخیص چهره استفاده می‌کنند.
شاید ما در دوران گذار قرار داریم. شاید فناوری‌های جدید به‌مرور به زندگی‌های ما نفوذ می‌کنند تا علاوه‌بر گسترش مرزهای علم و فناوری، مفاهیم اجتماعی را نیز تغییر دهند. به‌عنوان مثال وقتی افراد هر جا که بروند به‌راحتی تشخیص داده شوند، همین تشخیص مانند فناوری‌ها و داده‌های قدیمی دیگر، منجر به ساخت پروفایل از شخصیت آن‌ها میشود. با ایجاد پروفایل این تصور ایجاد میشود که می‌توان رفتارهای انسان‌ها را با استفاده از الگوریتم، پیش‌بینی کرد. در مرحله‌ی بعد، الگوریتم‌ها جای شخصیت واقعی افراد را در همه‌جا می‌گیرند و شاید درنهایت تشخیص‌‌ها آن‌ها دقیق‌تر از اطلاعاتی باشد که مردم از خودشان و اطرافیان دارند.
همکاری در جامعه زمانی ایجاد میشود که افراد هر کدام سهم خود را در آن بپردازند. اگرچه مردم برخی اوقات امتیازهایی شخصی را اهدا می‌کنند تا نتایج مورد نظر خود را به دست بیاورند، چنین رویکردی همیشگی نیست. اگر ما همیشه مجبور به اهدای بخشی از هویت و شخصیت خود باشیم، به مراحلی از بردگی وارد شده‌ایم. از دست دادن هویت واقعی به قیمت شناسایی بهتر توسط الگوریتم‌ها، به‌نوعی حق انتخاب را از مردم می‌گیرد. درنتیجه دیگر نمی‌توانیم چگونگی شناخته شدن خود یا حتی محصولاتی که به ما پیشنهاد میشود را انتخاب کنیم. چنین روندی قطعا شبیه به همکاری اجتماعی مفید برای همگان، نخواهد بود.
باتوجه‌به سناریوی بالا می‌توان نتیجه‌گیری کرد که کاربرد هوش مصنوعی در ترکیب با تشخیص چهره که با هدف راحتی سازمان‌ها و دولت‌ها انجام میشود، نتایج نگران‌کننده‌ای خواهد داشت. این نوع از فناوری نوآورانه، پیشرفتی خطرناک در حوزه‌ی نظارت تصویری است؛ چرا که مردم را مجبور می‌کند تا باز هم بیشتر از دارایی‌های شخصی و شخصیتی خود خرج کنند.
تلاش‌های با هدف ممنوعیت کامل استفاده از نرم‌افزارها تاکنون با مقاومت شدید روبه‌رو شده‌اند. قانون‌گداران و شرکت‌هایی همچون مایکروسافت تاکنون تلاش‌های زیادی برای توسعه‌ی تنظیم مقررات در این حوزه‌ها انجام داده‌اند. از میان آن‌ها می‌توان به لزوم اطلاع‌رسانی در زمان استفاده از ابزارهای نظارت تصویری در مکان‌های عمومی اشاره کرد. البته چنین قانونگذاری هیچ قدرت تصمیم‌گیری را به مردم ارائه نمی‌کند. درواقع آن‌ها به جز ترک مکان‌های مجهز به دوربین‌های نظارتی، هیچ انتخاب دیگری ندارند.
به‌خاطر عدم کاربردپذیری قوانین موجود، لزوم تصویب قوانین جدید برای محدودسازی تشحیص چهره بیش‌ازپیش احساس میشود. ما اکنون در مرحله‌ای مهم از توسعه‌ی فناوری قرار داریم و قانونگذاری باید هرچه سریع‌تر در همین مراحل انجام شود. در صورت عدم تنظیم مقررات در زمان توسعه‌ی فناوری‌ها، شاید آینده و پس از به‌کارگیری گسترده‌ی آن‌ها، دیگر نتوان مانعی برای کاربردهای ناصحیح آن‌ها ایجاد کرد.
وقتی تشخیص چهره و دیگر کاربردهای هوش مصنوعی فراگیر شوند و قوانینی هم برای محدودسازی آن‌ها وجود نداشته باشد، مردم دیگر بدون دفاع خواهند بود. بدین ترتیب دولت‌ها و شرکت‌ها به‌راحتی می‌توانند از اطلاعات و هویت آن‌ها با هر هدفی که تمایل داشته باشند، استفاده کنند. در چنین مرحله‌ای طمع، سود و قدرت به انگیزه‌های اصلی استفاده از فناوری تبدیل می‌شوند.
اگر با رجوع به غریزه‌های خود قصد داریم تا «دیگران» خطرناک را در جامعه شناسایی کنیم، شاید بتوان شرکت‌ها و افرادی که از چهره و هویت ما سوءاستفاده می‌کنند را در دسته‌ی «دیگران» قرار داد. افرادی که نه‌تنها سوددهی مالی، بلکه دسته‌بندی و کنترل اجتماعی را نیز با سوءاستفاده از همین اطلاعات انجام می‌دهند. به‌هرحال چنین رویکردی نیاز به نگرانی و اهمیت دادن بیشتر از سوی مردم دارد تا شاید قانون‌گذاران را به کنترل بیشتر روی توسعه‌ی فناوری علاقه‌مند کند.
مرجع : زومیت
