美東時(shí)間5月19日,前OpenAI聯(lián)合創(chuàng)始人、特斯拉前AI負(fù)責(zé)人安德烈·卡帕西(Andrej Karpathy)宣布入職Anthropic,本周正式到崗,將組建新團(tuán)隊(duì)依托Claude推進(jìn)預(yù)訓(xùn)練研究,主攻AI優(yōu)化自身訓(xùn)練的遞歸自我改進(jìn)(RSI)方向。RSI兼具巨大發(fā)展?jié)摿εc安全隱患,迭代易引發(fā)對(duì)齊風(fēng)險(xiǎn)。
2017年,他離開OpenAI入職特斯拉,主管自動(dòng)駕駛視覺業(yè)務(wù),2022年離開特斯拉,此后短暫回歸OpenAI并創(chuàng)辦AI教育公司“尤里卡實(shí)驗(yàn)室”(Eureka Labs)。馬斯克曾盛贊卡帕西的計(jì)算機(jī)視覺實(shí)力堪稱全球第二,僅次于OpenAI另一位聯(lián)合創(chuàng)始人伊利亞·蘇茨克維(Ilya Sutskever)。