தொழில்நுட்பத்தின் உள்ளே - ஆழ்நிலை குரல் தொடர்பில் பாதுகாப்பை உறுதி செய்தல்

உங்கள் குழு எதிர்கொள்ளும் மிகப்பெரிய தொழில்நுட்ப சவால்கள் யாவை?

எங்கள் பயனர்களுக்குப் பாதுகாப்பான மற்றும் நேர்மறையான அனுபவத்தை வழங்குவதை நாங்கள் முன்னுரிமையாகக் கொள்கிறோம். பாதுகாப்பு மற்றும் நாகரிகம் எங்களுக்கு எப்போதும் முக்கியமானவை, ஆனால் அதை நிகழ்நேரத்தில் கையாள்வது ஒரு பெரிய தொழில்நுட்பச் சவாலாக இருக்கலாம். எப்போது ஒரு சிக்கல் ஏற்பட்டாலும், அதை நாங்கள் நிகழ்நேரத்தில் மதிப்பாய்வு செய்து நடவடிக்கை எடுக்க விரும்புகிறோம், ஆனால் எங்கள் அளவைக் கருத்தில் கொள்ளும்போது இது சவாலானதாக உள்ளது. இந்த அளவைத் திறம்படக் கையாள, நாங்கள் தானியங்கி பாதுகாப்பு அமைப்புகளைப் பயன்படுத்த வேண்டும்.

நாங்கள் கவனம் செலுத்தும் மற்றொரு தொழில்நுட்ப சவால், தணிக்கைக்கான எங்கள் பாதுகாப்பு நடவடிக்கைகளின் துல்லியத்தன்மை ஆகும். கொள்கை மீறல்களைக் கையாள்வதற்கும் நிகழ்நேரத்தில் துல்லியமான பின்னூட்டத்தை வழங்குவதற்கும் இரண்டு தணிக்கை அணுகுமுறைகள் உள்ளன: எதிர்வினையாற்றும் மற்றும் முன்முயற்சி தணிக்கை. எதிர்வினையாற்றும் தணிக்கையைப் பொறுத்தவரை, தளத்தில் உள்ள மக்களிடமிருந்து வரும் புகார்களுக்குப் பதிலளிப்பதன் மூலம் செயல்படும், பல்வேறு வகையான கொள்கை மீறல்களைத் துல்லியமாகக் கண்டறியும் இயந்திர கற்றல் (ML) மாதிரிகளை நாங்கள் உருவாக்கி வருகிறோம். முன்முயற்சியுடன், எங்கள் கொள்கைகளை மீறும் சாத்தியமான உள்ளடக்கத்தைக் கண்டறிந்து, பயனர்களுக்கு அவர்களின் நடத்தை குறித்துக் கற்பித்து வருகிறோம். பேசும் வார்த்தையைப் புரிந்துகொள்வதும், ஒலித் தரத்தை மேம்படுத்துவதும் ஒரு சிக்கலான செயல்முறையாகும். நாங்கள் ஏற்கனவே முன்னேற்றத்தைக் காண்கிறோம், ஆனால் எங்களின் இறுதி இலக்கு, கொள்கை மீறல் நடத்தைகளை நிகழ்நேரத்தில் கண்டறியக்கூடிய மிகவும் துல்லியமான ஒரு மாதிரியைக் கொண்டிருப்பதாகும்.

இந்தத் தொழில்நுட்ப சவால்களைச் சமாளிக்க நாங்கள் பயன்படுத்தும் சில புதுமையான அணுகுமுறைகள் மற்றும் தீர்வுகள் யாவை?

நாங்கள் ஒரு முழுமையான எம்.எல் (ML) மாதிரியை உருவாக்கியுள்ளோம், இது ஆடியோ தரவைப் பகுப்பாய்வு செய்து, கொள்கை மீறல்களின் வகைகளின் அடிப்படையில் ஒரு நம்பகத்தன்மை அளவை வழங்குகிறது (எ.கா. இது கொடுமைப்படுத்துதல், தகாத வார்த்தைகள் போன்றவை எவ்வளவு சாத்தியம்). இந்த மாதிரி, சில அறிக்கைகளைத் தானாகவே மூடும் எங்கள் திறனை கணிசமாக மேம்படுத்தியுள்ளது. எங்கள் மாதிரி நம்பிக்கையுடன் இருக்கும்போதும், அது மனிதர்களை விட சிறப்பாக செயல்படும் என்று உறுதியாகத் தெரிந்தபோதும் நாங்கள் நடவடிக்கை எடுக்கிறோம். தொடங்கப்பட்ட சில மாதங்களுக்குள், இந்த மாதிரியைக் கொண்டு ஆங்கில குரல் துஷ்பிரயோக அறிக்கைகளில் ஏறக்குறைய அனைத்தையும் நாங்கள் நெறிப்படுத்த முடிந்தது. நாங்கள் இந்த மாதிரிகளை உள்ளகத்திலேயே உருவாக்கியுள்ளோம், மேலும் இதன் பின்னணியில் உள்ள தொழில்நுட்பத்தை உருவாக்க, பல திறந்த மூல தொழில்நுட்பங்களும் எங்கள் சொந்தப் பணியும் இணைந்து செயல்பட்டதற்கான ஒரு சான்றாக இது விளங்குகிறது.

உண்மையான நேரத்தில் எது பொருத்தமானது என்பதைத் தீர்மானிப்பது மிகவும் சிக்கலானது என்று தெரிகிறது. அது எப்படி வேலை செய்கிறது?

இந்த அமைப்பை சூழலுக்கு ஏற்றவாறு உணரும்படி செய்வதில் அதிக கவனம் செலுத்தப்பட்டுள்ளது. நாங்கள் நடவடிக்கை எடுப்பதற்கு முன்பு, காலப்போக்கில் உள்ள முறைகளைப் பார்க்கிறோம், இதன் மூலம் எங்கள் நடவடிக்கைகள் நியாயமானவை என்பதை உறுதிப்படுத்திக் கொள்ளலாம். ஒரு நபரின் வயது, அவர்கள் பொது இடத்தில் இருக்கிறார்களா அல்லது தனிப்பட்ட அரட்டையில் இருக்கிறார்களா, மற்றும் பல காரணிகளைப் பொறுத்து எங்கள் கொள்கைகள் நுணுக்கமாக உள்ளன. நிகழ்நேரத்தில் நாகரிகத்தை ஊக்குவிக்க புதிய வழிகளை நாங்கள் ஆராய்ந்து வருகிறோம், மேலும் இயந்திர கற்றல் (ML) அதன் மையத்தில் உள்ளது. எங்கள் கொள்கைகளைப் பயனர்களுக்கு நினைவூட்ட, நாங்கள் சமீபத்தில் தானியங்கி புஷ் அறிவிப்புகளை அறிமுகப்படுத்தியுள்ளோம். ஒருவரின் நோக்கங்களைச் சிறப்பாகப் புரிந்துகொள்ளவும், கேலி அல்லது நகைச்சுவை போன்றவற்றை வேறுபடுத்தி அறியவும், குரலின் தொனி போன்ற பிற காரணிகளையும் நாங்கள் ஆராய்ந்து வருகிறோம். இறுதியாக, சிலர் பல மொழிகளைப் பேசுவதாலும், சிலர் ஒரு வாக்கியத்தின் நடுவிலேயே மொழியை மாற்றுவதாலும், நாங்கள் ஒரு பலமொழி மாதிரியை உருவாக்கி வருகிறோம். இவற்றில் எதுவும் சாத்தியமாக, எங்களிடம் ஒரு துல்லியமான மாதிரி இருக்க வேண்டும்.

தற்போது, நாங்கள் துன்புறுத்தல், பாகுபாடு மற்றும் தகாத வார்த்தைகள் போன்ற மிகவும் முக்கியமான துஷ்பிரயோக வடிவங்களைக் கையாள்வதில் கவனம் செலுத்துகிறோம். இவை பெரும்பாலான துஷ்பிரயோக அறிக்கைகளை உருவாக்குகின்றன. இந்தத் துறைகளில் குறிப்பிடத்தக்க தாக்கத்தை ஏற்படுத்துவதும், ஒரு நாகரிகமான ஆன்லைன் உரையாடலை ஊக்குவிப்பது மற்றும் பராமரிப்பது எப்படி இருக்கும் என்பதற்கான தொழில் தரங்களை அமைப்பதும் எங்கள் நோக்கம். ML-ஐ நிகழ்நேரத்தில் பயன்படுத்துவதன் சாத்தியக்கூறுகள் குறித்து நாங்கள் உற்சாகமாக இருக்கிறோம், ஏனெனில் இது அனைவருக்கும் பாதுகாப்பான மற்றும் நாகரிகமான அனுபவத்தை திறம்பட வளர்க்க எங்களை அனுமதிக்கிறது.

ராப்ளக்ஸில் நாங்கள் தீர்க்கும் சவால்கள் எவ்வாறு தனித்துவமானவை? நாங்கள் முதலில் எதைத் தீர்க்கும் நிலையில் இருக்கிறோம்?

எங்களின் ஸ்பேஷியல் வாய்ஸ் உரையாடல் தொழில்நுட்பம், நிஜ உலகத் தொடர்புகளைப் போலவே ஒரு மிகவும் ஆழ்ந்த அனுபவத்தை உருவாக்குகிறது. உதாரணமாக, நான் ஒருவரின் இடதுபுறத்தில் நின்றால், அவர்கள் என்னைத் தங்கள் இடது காதில் கேட்பார்கள். நிஜ உலகில் தொடர்பு எவ்வாறு செயல்படுகிறது என்பதற்கு நாங்கள் ஒரு அனலாக் உருவாக்குகிறோம், மேலும் இதைத் தீர்க்கும் முதல் நிலையை நாங்கள் அடைந்துள்ளோம்.

ஒரு கேமராக, நான் ஆன்லைன் கேமிங்கில் நிறைய துன்புறுத்தல்களையும் மிரட்டல்களையும் கண்டிருக்கிறேன். பயனர் அநாமதேயமாக இருப்பதாலும், அதன் விளைவுகள் இல்லாததாலும் இது பெரும்பாலும் கவனிக்கப்படாத ஒரு பிரச்சனையாக உள்ளது. இருப்பினும், இதைச் சுற்றி நாங்கள் சமாளிக்கும் தொழில்நுட்ப சவால்கள், மற்ற தளங்கள் சில பகுதிகளில் எதிர்கொள்வதை விட தனித்துவமானவை. சில கேமிங் தளங்களில், உரையாடல்கள் அணி வீரர்களுக்குள் மட்டுமே வரையறுக்கப்பட்டுள்ளன. ராப்லாக்ஸ், நிஜ வாழ்க்கையை மிகவும் நெருக்கமாகப் பிரதிபலிக்கும் ஒரு சமூகச் சூழலில் ஒன்றுகூடி நேரத்தைச் செலவிட பல்வேறு வழிகளை வழங்குகிறது. இயந்திரக் கற்றல் (ML) மற்றும் நிகழ்நேர சிக்னல் செயலாக்கத்தில் உள்ள முன்னேற்றங்கள் மூலம், நாங்கள் தவறான நடத்தைகளைத் திறம்படக் கண்டறிந்து சரிசெய்ய முடிகிறது. இதன் பொருள், நாங்கள் ஒரு மிகவும் யதார்த்தமான சூழலை மட்டுமல்ல, அனைவரும் மற்றவர்களுடன் தொடர்புகொண்டு இணைய பாதுகாப்பாக உணரும் ஒரு சூழலையும் வழங்குகிறோம். எங்கள் தொழில்நுட்பம், எங்கள் ஆழ்ந்த ஈடுபாடுள்ள தளம் மற்றும் எங்கள் கொள்கைகள் குறித்து பயனர்களுக்குக் கற்பிப்பதில் நாங்கள் காட்டும் அர்ப்பணிப்பு ஆகியவற்றின் கலவை, இந்த சவால்களை நேரடியாக எதிர்கொள்ளும் நிலையில் எங்களை வைத்துள்ளது.

இந்தத் தொழில்நுட்பப் பணியைச் செய்வதன் மூலம் நீங்கள் கற்றுக்கொண்ட சில முக்கியமான விஷயங்கள் என்ன?

நான் கணிசமான அளவு கற்றுக்கொண்டதாக உணர்கிறேன். நான் ஒரு இயந்திர கற்றல் (ML) பொறியாளர் அல்ல. நான் பெரும்பாலும் கேமிங்கில் முன்முனை (front end) பகுதியில் பணியாற்றியுள்ளேன், எனவே இந்த மாதிரிகள் எவ்வாறு செயல்படுகின்றன என்பதைப் பற்றி நான் அறிந்ததை விட ஆழமாகச் செல்ல முடிந்தது ஒரு பெரிய விஷயமாகும். நாகரிகத்தை ஊக்குவிக்க நாங்கள் எடுக்கும் நடவடிக்கைகள், பற்றாக்குறையாக இருக்கும் ஆன்லைன் சமூகத்தில் ஒரு பச்சாதாப நிலைக்கு வழிவகுக்கும் என்பதே எனது நம்பிக்கை.

கடைசியாக நான் கற்றுக்கொண்டது என்னவென்றால், எல்லாமே நீங்கள் உள்ளிடும் பயிற்சித் தரவுகளைச் சார்ந்துள்ளது. மேலும், தரவு துல்லியமாக இருக்க, கொள்கையை மீறும் சில நடத்தைகளை வகைப்படுத்தப் பயன்படுத்தப்படும் லேபிள்களில் மனிதர்கள் உடன்பட வேண்டும். அனைவரும் ஒப்புக்கொள்ளக்கூடிய தரமான தரவுகளில் பயிற்சி செய்வது மிகவும் முக்கியம். இது தீர்க்க மிகவும் கடினமான ஒரு சிக்கல். எல்லாவற்றையும் விட எம்.எல் (ML) மிகவும் முன்னேறியிருக்கும் பகுதிகளையும், அது இன்னும் ஆரம்ப கட்டத்தில் இருக்கும் மற்ற பகுதிகளையும் நீங்கள் காணத் தொடங்குவீர்கள். எம்.எல் இன்னும் வளர்ந்து வரும் பல பகுதிகள் உள்ளன, எனவே அதன் தற்போதைய வரம்புகளை அறிந்து கொள்வது முக்கியம்.

உங்கள் குழு ரோப்லாக்ஸ் மதிப்புகளில் எதை மிகவும் ஆதரிக்கிறது?

இந்த செயல்முறை முழுவதும் சமூகத்தைக் கௌரவிப்பதே எங்கள் வழிகாட்டும் மதிப்பாகும். முதலில், எங்கள் தளத்தில் நற்பண்பை மேம்படுத்துவதிலும் கொள்கை மீறல்களைக் குறைப்பதிலும் நாங்கள் கவனம் செலுத்த வேண்டும். இது ஒட்டுமொத்த பயனர் அனுபவத்தில் குறிப்பிடத்தக்க தாக்கத்தை ஏற்படுத்துகிறது. இரண்டாவதாக, இந்த புதிய அம்சங்களை நாங்கள் எவ்வாறு வெளியிடுகிறோம் என்பதை கவனமாகக் கருத்தில் கொள்ள வேண்டும். மாதிரியில் உள்ள தவறான நேர்மறைகள் (உதாரணமாக, ஒரு விஷயத்தை தவறாகத் தவறான பயன்பாடு எனக் குறிப்பிடுவது) குறித்து நாங்கள் கவனமாக இருக்க வேண்டும், மேலும் பயனர்களைத் தவறாகத் தண்டிப்பதைத் தவிர்க்க வேண்டும். எங்கள் மாதிரிகளின் செயல்திறனையும், பயனர் ஈடுபாட்டில் அவை ஏற்படுத்தும் தாக்கத்தையும் கண்காணிப்பது மிகவும் முக்கியமானது.

Roblox மற்றும் உங்கள் குழு செல்லும் திசையைப் பற்றி உங்களை மிகவும் உற்சாகப்படுத்துவது எது?

பொதுவான குரல் தொடர்பாடலை மேம்படுத்துவதில் நாங்கள் குறிப்பிடத்தக்க முன்னேற்றம் அடைந்துள்ளோம், ஆனால் இன்னும் செய்ய வேண்டியவை அதிகம் உள்ளன. தனிப்பட்ட தொடர்பாடல் என்பது ஆராய்வதற்கு ஒரு சுவாரஸ்யமான பகுதியாகும். பயனர்கள் தங்கள் நெருங்கிய நண்பர்களிடம் தங்களை வெளிப்படுத்தவும், அனுபவங்கள் முழுவதும் அல்லது ஒரு அனுபவத்தின் போது தங்கள் நண்பர்களுடன் உரையாடும்போது குரல் அழைப்பை மேற்கொள்ளவும் அனுமதிப்பதன் மூலம், தனிப்பட்ட தகவல்தொடர்பை மேம்படுத்துவதற்கு ஒரு பெரிய வாய்ப்பு இருப்பதாக நான் நினைக்கிறேன். பயனர்கள் தங்களைத் தாங்களே ஒழுங்கமைத்துக் கொள்ளவும், சமூகங்களில் சேரவும், உள்ளடக்கத்தைப் பகிரவும், யோசனைகளைப் பகிரவும் உதவும் சிறந்த கருவிகளுடன் இந்த சமூகங்களை வளர்ப்பதற்கும் ஒரு வாய்ப்பு இருப்பதாக நான் நினைக்கிறேன்.

நாம் தொடர்ந்து வளரும்போது, விரிவடையும் இந்த சமூகங்களை ஆதரிக்க எங்கள் அரட்டைத் தொழில்நுட்பத்தை எவ்வாறு விரிவுபடுத்துவது? நாம் செய்யக்கூடிய பல விஷயங்களில் நாம் இன்னும் மேலோட்டமாகவே உள்ளோம், மேலும் இந்தத் துறையில் இணையதளத் தொடர்பு மற்றும் ஒத்துழைப்பின் நாகரிகத்தை முன்னெப்போதும் இல்லாத வகையில் மேம்படுத்த ஒரு வாய்ப்பு இருப்பதாக நான் நினைக்கிறேன். சரியான தொழில்நுட்பம் மற்றும் இயந்திர கற்றல் திறன்களுடன், நாகரிகமான இணையதளத் தொடர்பின் எதிர்காலத்தை வடிவமைக்க நாம் ஒரு தனித்துவமான நிலையில் இருக்கிறோம்.