Дайджест #3

🔹 LessWrong:

• Эссе про навык нарушать договорённости так, чтобы "ткань общества не была нарушена” Reneging Prosocially by Duncan_Sabien (24 мин.) и эссе How to not renege prosocially, prosocially by Michael Cohn (3 мин.)

• Пост о вреде соцсетей, в который Elizabeth написала в виде письма самой себе в прошлом, относившейся к соцсетям иначе: Dear Self; We Need To Talk About Social Media by (15 мин.)

• Пост Reply to Eliezer on Biological Anchors написал HoldenKarnofsky (23 мин.); это изобилующая цитатами критика поста Biology-Inspired AGI Timelines: The Trick That Never Works Юдковского

• Пост о стратегии достижения AI alignment The Plan написал johnswentworth (20 мин.)

• Большой и подробный пост Omicron: My Current Model был написан Zvi (14 мин.)

🔹 AI Safety:

• 2021 AI Alignment Literature Review and Charity Comparison by Larks

• A Summary Of Anthropic's First Paper by Sam Ringer

• ARC's first technical report: Eliciting Latent Knowledge by paulfchristiano, Mark Xu, Ajeya Cotra

🔹 Блоги:

• Holden Karnofsky продолжает вести свой блог Cold Takes, среди интересных постов: Bayesian Mindset (28 мин.) Why Describing Utopia Goes Badly (14 мин.) и Visualizing Utopia (15 мин.)

• В блоге Скотта Александера ACX вышла серия постов приглашенного автора Lars Doucet (выигравшего конкурс книжных обзоров, проходивший летом) Does Georgism Work?, в которой рассматриваются эмпирические свидетельства, на которых основывается Джорджизм; среди интересных постов Скотта: The Phrase "No Evidence" Is A Red Flag For Bad Science Communication, Movie Review: Don’t Look Up

• Jacob Falkovich в своём блоге Put A Number On It! порассуждал об “альтруистичных отношениях” в посте Selfless Dating