浜哄伐鏅鸿兘锛堢畝绉癆I锛夋槸鐮旂┒濡備綍浣胯绠楁満鍍忎汉绫讳竴鏍锋€濊€冨拰琛屽姩鐨勯鍩熴€?闅忕潃绉戝鎶€鏈殑蹇€熷彂灞曪紝浜哄伐鏅鸿兘涔熺粡鍘嗏€嬧€嬩簡鍑犱釜鍏抽敭鐨勫彂灞曢樁娈点€?/p>

　　1.0鐭ヨ瘑绗﹀彿闃舵锛?/p>

　　20涓栫邯50骞翠唬鍒?0骞翠唬鐨勪汉宸ユ櫤鑳界爺绌朵富瑕佷緷闈犱汉绫讳笓瀹舵墜鍔ㄧ紪鍐欑煡璇嗗簱骞跺埄鐢ㄩ€昏緫鎺ㄧ悊鏉ュ疄鐜版櫤鑳姐€?鐒惰€岋紝鐮旂┒浜哄憳鍙戠幇鐭ヨ瘑搴撶殑瑙勫垯鏃犳硶瀹屽叏缂栬瘧锛屼粠鑰岃璇嗗埌鎵嬪姩缂栧啓瑙勫垯鐨勫眬闄愭€с€?杩欎竴闃舵鐨勫叿浣撲緥瀛愬寘鎷珻YC椤圭洰鍜孧IT鐨凷HRDLU椤圭洰銆?/p>

　　2.0鏈哄櫒瀛︿範闃舵锛?/p>

　　20涓栫邯80銆?0骞翠唬锛屼汉宸ユ櫤鑳藉紑濮嬪埄鐢ㄦ満鍣ㄥ涔犳妧鏈潵鎻愰珮鏅鸿兘銆?鏈哄櫒瀛︿範鍖呮嫭鐩戠潱瀛︿範銆佹棤鐩戠潱瀛︿範鍜屽己鍖栧涔犮€?鍏朵腑锛岀洃鐫ｅ涔犺璁＄畻鏈洪€氳繃缁欏嚭鏍囧噯绛旀鏉ュ鎵捐В鍐抽棶棰樼殑瑙勫垯锛?鏃犵洃鐫ｅ涔犲厑璁歌绠楁満閫氳繃澶ч噺鏁版嵁鑷瀛︿範锛?寮哄寲瀛︿範閫氳繃缁欎簣濂栧姳鎴栫籂姝ｆ潵寮曞璁＄畻鏈鸿繘琛屽涔犮€?璋锋瓕缈昏瘧鍜岃嫻鏋滆闊冲姪鎵婼iri灏辨槸杩欎釜闃舵鐨勫吀鍨嬩緥瀛愩€?/p>

　　3.0娣卞害瀛︿範闃舵锛?/p>

　　2000 骞村乏鍙筹紝璁＄畻鑳藉姏鐨勬彁楂樺拰澶ч噺鏁版嵁浣挎繁搴︾缁忕綉缁滄垚涓哄彲鑳姐€?娣卞害瀛︿範宸茬粡鎴愪负浜哄伐鏅鸿兘棰嗗煙鐨勪富娴佹妧鏈紝閫氳繃妯℃嫙浜鸿剳鍜岀缁忕綉缁滃疄鐜版洿澶嶆潅鐨勫浘鍍忚瘑鍒拰璇煶璇嗗埆銆? AlphaGo鏄胺姝屽洟闃熷紑鍙戠殑鍥存浜哄伐鏅鸿兘绋嬪簭锛屽埄鐢ㄦ繁搴﹀涔犳柟娉曟垚鍔熷嚮璐ヤ簡浜虹被椤跺皷妫嬫墜銆?/p>

　　4.0鍙樺帇鍣ㄩ樁娈碉細

　　2017骞达紝璋锋瓕鍙戝竷浜員ransformer妯″瀷锛屽叾鏍稿績鎬濇兂鏄€淎ttention is all you need鈥濄€?璇ユā鍨嬮噰鐢ㄤ簡self-attention鏈哄埗锛屾瀬澶у湴淇冭繘浜嗚嚜鐒惰瑷€澶勭悊棰嗗煙鐨勫彂灞曘€? BERT銆丟PT-4绛夎澶氬熀浜嶵ransformer鐨勯璁粌妯″瀷涔熺浉缁у嚭鐜帮紝浣垮緱璁＄畻鏈虹悊瑙ｅ拰鐢熸垚鑷劧璇█鐨勮兘鍔涜秺鏉ヨ秺鎺ヨ繎浜虹被姘村钩銆?/p>

　　缁间笂鎵€杩帮紝浜哄伐鏅鸿兘缁忓巻浜嗕粠鐭ヨ瘑绗﹀彿闃舵鍒版満鍣ㄥ涔犻樁娈碉紝鍐嶅埌娣卞害瀛︿範闃舵锛屾渶鍚庤繘鍏ransformer闃舵銆?姣忎釜闃舵閮芥湁鍏跺叿浣撶殑渚嬪瓙鍜屽伐鍏凤紝姣忎釜闃舵鐨勬妧鏈繘姝ラ兘缁欎汉宸ユ櫤鑳界殑鍙戝睍甯︽潵浜嗛噸澶ф帹鍔ㄣ€?鏈潵锛岄殢鐫€鎶€鏈殑涓嶆柇杩涙锛屼汉宸ユ櫤鑳藉皢鍦ㄦ洿澶氶鍩熷彂鎸ュ法澶т綔鐢紝鍒涢€犲嚭鏇村浠や汉鎯婂徆鐨勫簲鐢ㄣ€?/p>