రియాద్: సౌదీ డేటా మరియు ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ అథారిటీ (SDAIA) డీప్‌ఫేక్స్ మార్గదర్శకాలను జారీ చేసింది.  ఈ మార్గదర్శకాలు డీప్‌ఫేక్స్‌ను, డీప్ లెర్నింగ్ టెక్నిక్‌లను ఉపయోగించి సృష్టించిన అత్యంత వాస్తవిక సింథటిక్ మీడియాగా నిర్వచించాయి. ఈ టెక్నిక్‌లలో జెనరేటివ్ అడ్వర్సేరియల్ నెట్‌వర్క్‌లు (GANలు), ఆటో-ఎన్‌కోడర్‌లు మరియు ఫేస్-స్వాప్ అల్గారిథమ్‌లు ఉన్నాయి. ఇవి ఆడియో, వీడియో లేదా ఇతర డిజిటల్ కంటెంట్‌ను వాస్తవికత నుండి వేరు చేయడం కష్టతరం చేసే విధంగా మార్పులు చేస్తాయి.

డ్యుయల్ ఎడ్జ్ టెక్నాలజీ

ఇది హానికరమైన మరియు హానికరమైనవి కాని డీప్‌ఫేక్‌ల మధ్య స్పష్టమైన వ్యత్యాసాన్ని చూపుతుంది. ఈ టెక్నాలజీ స్వతహాగా హానికరం కాదన్నారు. కానీ, దీని ద్వారా క్రియేట్ చేయబడ్డ కంటెంట్ దాని ప్రభావాన్ని నిర్ణయిస్తుందని తెలిపారు. మార్కెటింగ్, వినోదం, రిటైల్, విద్య, ఆరోగ్య సంరక్షణ మరియు సంస్కృతి వంటి ఆరు కీలక రంగాలలో సానుకూల ఫలితాలను అంగీకరిస్తూనే, హానికరమైన ప్రమాదాల గురించి హెచ్చరించింది. వీటిని మూడు ప్రాథమిక ముప్పు రకాలుగా వర్గీకరించారు.

మొదటిది నకిలీ మోసాలు: ఇందులో, మోసపూరిత ఆర్థిక లావాదేవీలకు అధికారం ఇవ్వడానికి లేదా సున్నితమైన సమాచారాన్ని రాబట్టడానికి, విశ్వసనీయ వ్యక్తుల స్వరాలు, ఫేస్ రీడింగ్స్ మరియు హావభావాలను అనుకరించడానికి డీప్‌ఫేక్‌లను ఉపయోగిస్తారు. ఒక వీడియో కాన్ఫరెన్స్ కాల్ సమయంలో ఒక సీనియర్ ఎగ్జిక్యూటివ్‌గా నటిస్తున్న మోసగాళ్లకు ఒక సంస్థ ఉద్యోగి పెద్ద మొత్తంలో డబ్బును బదిలీ చేసేలా మోసగించడాన్ని ఈ సందర్బంగా ఉదహరించారు.

రెండవ ముప్పు వర్గంలో  వ్యక్తుల సమ్మతి లేకుండా అశ్లీలమైన లేదా అభ్యంతరకరమైన కంటెంట్‌ను సృష్టించడాన్ని పేర్కొన్నారు.  ఇది బాధితుల్లో తీవ్రమైన మానసిక క్షోభ, ప్రతిష్టకు నష్టం మరియు బ్లాక్‌మెయిల్‌కు దారితీయవచ్చని హెచ్చరించింది.

మూడవ దాంట్లో  రాజకీయ నాయకులు ఎన్నడూ చేయని ప్రకటనలు చేస్తున్నట్లు తప్పుగా చిత్రీకరించడానికి డీప్‌ఫేక్ వీడియోలు లేదా ఆడియో క్లిప్‌లను ఉపయోగిస్తారు. దీని ద్వారా ప్రజాభిప్రాయాన్ని ప్రభావితం చేసి, ప్రజాస్వామ్య ప్రక్రియలను అస్థిరపరిచే అవకాశం ఉందని పేర్కొన్నారు.

డెవలపర్లు, కంటెంట్ సృష్టికర్తల బాధ్యతలు

డీప్‌ఫేక్ టెక్నాలజీ డెవలపర్‌ల కోసం ఈ మార్గదర్శకాలు స్థానిక మరియు అంతర్జాతీయ డేటా గోప్యతా ఫ్రేమ్‌వర్క్‌లకు కట్టుబడి ఉండాలి. ప్రత్యేకంగా, GDPR మరియు CCPA వంటి అంతర్జాతీయ ప్రమాణాలతో పాటు సౌదీ అరేబియా వ్యక్తిగత డేటా రక్షణ చట్టం (PDPL) మరియు సైబర్ నేరాల నిరోధక చట్టాన్ని కూడా ఇందులో ప్రస్తావించారు.  పారదర్శకత విషయానికి వస్తే, డెవలపర్లు సింథటిక్ కంటెంట్‌లో డిజిటల్ వాటర్‌మార్క్‌లను పొందుపరచాలి.

కంటెంట్ సృష్టికర్తలు కఠినమైన నిబంధనలు పాటించాలి. మోసం, నకిలీ గుర్తింపు, పరువు నష్టం కోసం డీప్‌ఫేక్ సేవలను ఉపయోగించడం నిషేదించారు. అన్ని సింథటిక్ కంటెంట్‌కు స్పష్టంగా కనిపించే, ట్యాంపర్-రెసిస్టెంట్ వాటర్‌మార్క్‌లను తప్పనిసరిగా ఏర్పాటు చేయాలి. సృష్టికర్తలు ఏ వ్యక్తి పోలికనైనా ఉపయోగించే ముందు వారి అనుమతిని పొందాలి.  అసలైన కంటెంట్ మార్చలేని రికార్డులను సృష్టించడానికి బ్లాక్‌చెయిన్ మరియు క్రిప్టోగ్రాఫిక్ హ్యాషింగ్‌ను ఏర్పాటు చేయాలని కూడా ఈ మార్గదర్శకాలు సిఫార్సు చేశాయి.

నియంత్రణ సంస్థలకు మార్గదర్శకాలు

నియంత్రణ సంస్థలు ప్లాట్‌ఫారమ్ పర్యవేక్షణ యంత్రాంగాలను ఏర్పాటు చేయాలని ఆదేశించారు. ఇవి అధిక-ప్రమాదకర డీప్‌ఫేక్ కంటెంట్‌కు.. ముఖ్యంగా ఆర్థిక, రాజకీయ, మరియు గుర్తింపు నకిలీ రంగాలలో ప్రాధాన్యత ఇవ్వాలి. అదే సమయంలో తక్కువ-ప్రమాదకర లేదా విద్యా సంబంధిత విషయాలకు మరింత వెసులుబాటును కల్పించాలి. వాణిజ్యపరమైన విస్తరణకు ముందు డీప్‌ఫేక్ సాంకేతికతల కోసం ఒక అధికారిక ఆమోద ప్రక్రియ ఉండాలని సూచించారు

డీప్‌ఫేక్‌లను గుర్తించడంలో అవగాహన

సాధారణ ప్రజలు డీప్‌ఫేక్‌లను గుర్తించేలా అవగాహన కల్పించాలని నిర్దేశించారు. SDAIA మూడు-దశల విధానాన్ని సిఫార్సు చేస్తోంది. మెసేజ్ మూలం మరియు సందర్భాన్ని అంచనా వేయడం,  అసాధారణ ముఖ కదలికలు, పెదాల కదలికలో జాప్యం, అసహజమైన కనురెప్పల కదలికలు మరియు కాంతిలో వ్యత్యాసాలు వంటి స్పష్టమైన సంకేతాల కోసం ఆడియో-విజువల్ అంశాలను విశ్లేషించాలి. ఇందు కోసం డీప్‌వేర్ స్కానర్ మరియు సెన్సిటీ AI వంటి AI-ఆధారిత గుర్తింపు సాధనాలతో పాటు అడోబ్ కంటెంట్ అథెంటిసిటీ ఇనిషియేటివ్ మరియు బ్లాక్‌చెయిన్-ఆధారిత ధృవీకరణ వ్యవస్థల వంటి కంటెంట్ ప్రొవెనెన్స్ సాధనాలను ఉపయోగించి కంటెంట్‌ను ప్రామాణీకరించాలి.

భవిష్యత్ కోసం

డీప్‌ఫేక్ టెక్నాలజీని నైతికంగా ఉపయోగించినప్పుడు, అది ఎలాంటి సామర్థ్యాన్ని కలిగి ఉంటుందో ఈ మార్గదర్శకాలు తెలియజేశాయి. ఆరోగ్య సంరక్షణ రంగంలో, వాయిస్ రీకన్‌స్ట్రక్షన్ (స్వర పునర్నిర్మాణం) ఇప్పటికే ALS రోగులకు వారి స్పీచ్ సామర్థ్యాన్ని పునరుద్ధరించడం ద్వారా వారి జీవన నాణ్యతను మెరుగుపరిచింది. విద్యారంగంలో వర్చువల్ ట్యూటర్లు మరియు రిమోట్ శిక్షణా సాధనాలు వెనుకబడిన వర్గాలకు విస్తరించాయి. సాంస్కృతిక రంగంలో ఈ టెక్నాలజీ ద్వారా అంతరించిపోతున్న మాండలికాలను పరిరక్షించవచ్చి, అదే సమయంలో చారిత్రక సంఘటనలకు జీవం పోయగలదని వివరించారు.