刘半农出生于江苏江阴，中学的时候因为对学校保守的教育体制不满和失望，前往上海发展，成为一名编辑。他天资聪颖，而且国文功底很好，悟性高，再加上勤奋和才情，很快成为上海滩文坛上一个十分活跃的小说新秀。经过几年奋斗之后，在上海滩声名鹊起，被人称为“江阴才子”、“文坛魁首”。
刘半农在上海曾与陈独秀有过一次难忘的会面，陈独秀慧眼识珠，把他推荐给了蔡元培。这个中学都没毕业的乡村青年成了北大的老师。北大是新文化运动的发祥地,也是新文化思想的中心,进入北大后,刘半农变成了新文化运动的急先锋，开始在《新青年》上发光发热。
刘半农曾经为了要编一本“骂人专辑”，在报纸上刊登启事，征求各地的骂人语言。语言学家赵元任见到启事后，立即前往，用湖南、四川、安徽等地的方言把他“痛骂”了很长时间。随后周作人也赶来，用绍兴话“骂”了一顿。此后，他又去拜会著名学者章太炎，被章用汉代和唐代的骂人话，从上午“骂”到中午，再告诉他典出何处。
刘半农到北京大学后,自知资历浅,所以十分勤奋,讲课也很受学生欢迎。但在这个学院派占统治地位的地方,他依然被一些人视为不入流。
于是他开始发奋攻读博士，并在蔡元培的支持下公费赴英留学，后来转到法国，获得法国国家文学博士学位，成为第一个获得以外国国家名义授予的最高学衔的中国人。
刘半农在学成回国的海轮上，写下诗作《教我如何不想她》，这个“她”字就是刘半农发明的。这一年秋天，他回到北京大学担任国文系教授，兼任北大研究所国学门导师，建立了语音乐律实验室，成为中国实验语音学奠基人。
1931年11月18日晚，刘半农邀请好友聚会，其中包括徐志摩。徐在席间接过电话后笑盈盈地说：“我明早八点北飞。明晚此时，当与小曼共饭也”。刘半农打趣道：“飞空之戏，君自好之，我则不敢尝”。徐志摩回应：“危险在所难免，我自甘之。我苟飞死，君当为我作挽联。”刘半农笑答诺。殊不知这成了二人最后的会面。
1931年11月19日早8时，徐志摩搭乘中国航空公司 “济南号”邮政飞机由南京北上，他要参加当天晚上林徽因在北平协和小礼堂为外国使者举办中国建筑艺术的演讲会。当飞机抵达济南南部党家庄一带时，忽然大雾弥漫，难辨航向。机师为寻觅准确航线，只得降低飞行高度，不料飞机撞上开山，当即坠入山谷，机身起火，机上人员（两位机师与徐志摩）全部遇难。关于他遇难的原因，除直接原因林徽因外，还与陆小曼迟迟不肯答应北上，以及大雾影响、主机师王贯一前晚准备女儿婚事忙到很晚，飞行时精神太差有关。没想到刘半农一语成谶。
斯文·赫定是位世界著名探险家，刘半农的死在一定程度上要归因于他。斯文·赫定70大寿时，瑞典皇家地理学会计划出版纪念文集，向刘半农约稿。出于对赫定的尊敬，刘半农决定写一篇有关北平、绥远沿线方言声调的论文，为他祝寿。但在考察途中，刘半农染上了致命的回归热，之后又被庸医误诊，不久便与世长辞，年仅43岁。
