Vaciry，Work to kill breast cancer!
不是专门研究神经科学的，但是看到这个问题产生了蜜汁兴趣，于是看了些这方面的病理机制和临床研究的文献，姑且抛个砖先。
按套路来说，万事开头先找定义，失眠(insomnia)目前普遍接受的定义来自于美国精神病协会发布的 Diagnostic and Statistical Manual of Mental Disorders(DSM-5，精神疾病诊断和统计手册)一书。书中定义是对于起始和维持睡眠有困难，以及早醒后无法重新入眠。临床上这样的入睡困难症状，要至少一周发生三次，能持续三个月以上，且和睡眠机会的充分与否无关。
换言之无论是由于自身的社交工作压力，还是悬梁刺股的“自虐”，只要达到了这个指标就能称之为失眠。而如果只是偶发性的原因，比如考试挂了，失恋了这样焦虑得一两晚没睡，病理学上来说难称失眠。下面放一张原书里面对失眠各大指标定义的表格以供参考。
临床上一般用于失眠症的诊断方法一般包括了多导睡眠图（PSG）以及脑电图（EEG）的记录和综合分析，具体方法学原理就不在这里多说了。下面要谈的失眠主要指原发性失眠(primary insomnia), 即非其他病理学原因引发的失眠，这一点要和并发性失眠区分。
下面就来回答题主的问题，失眠过程中大脑发生了什么？
概括地说，失眠阶段生理上的过度兴奋会体现在交感神经(SNS)和下丘脑－垂体－肾上腺轴(HPA)的过度活跃程度上。
前者主要表现在血液循环系统中的儿茶酚胺（Catecholamines）量上调（主要包括了去甲肾上腺素，肾上腺素和多巴胺，也是嗜铬细胞瘤的诱因），糖代谢加快，体温升高，心率调节能力下降以及瞳孔缩放的改变。后者主要表现在与泌尿无关的肾上腺皮质激素水平升高上。（aka 要是憋尿失眠的就别来找麻烦了）
详细展开说“大脑发生了什么”，我就从这几项比较有意思的研究来举例。
1. 失控的大脑皮层糖代谢
首次提出这个理论的是匹兹堡大学医学院的 David Kupfer, (插一句，老教授是前 UPMC 精神疾病中心主任以及前面提到的 DSM-5 编委会主任，他也曾经给我们这届匹大医学院的学生上过神经科学的课，讲课逗逼而不失威严）。
言归正传，Kupfer 的第一项研究对比了七个符合失眠定义的患者和 20 个睡眠正常的志愿者脑部的糖代谢速率，使用的方法是示踪同位素氟 18 标记的葡萄糖的代谢产物。他们观测到到现象是在清醒状态(waking)到非快速动眼期(NREM)的熟睡阶段，正常睡眠者大脑皮层各个部位都发生了糖代谢速率的降低，而失眠患者的丘脑，前扣带皮质和内侧前额皮质的葡萄糖糖代谢速率依然居高不下，这就造成了失眠状态下更强的产能和产热。而两年后他们的另一项研究再一次证实了入睡后的清醒能力（wakefulness after sleep onset, WASO, 原谅我别扭的翻译 TOT）是和大脑皮层糖代谢正相关的，并且失眠症患者所遭受的社会压力能引起他们唤醒系统的阈值降低，所以也就更容易苏醒。
上面这图就直观地显示了在失眠症患者中大脑皮层糖代谢无法下调的部位
2. HPA 的激素风暴
说到激素调控对失眠的影响，这里得先提一下另一位失眠研究领域的大家，来自宾州州立大学的 Alexandros Vgontzas，他是提出了下丘脑－垂体－肾上腺轴(HPA)通过调控激素分泌对失眠对影响理论的奠基者之一。HPA 轴在生理条件下是调控人应激反应的重要部分（相信高中课本肯定介绍过），这里放一个简图标注一下。HPA 的持续激活能合理解释为什么你一晚上没睡第二天依然能够精神集中地考试，为什么你被老板训了一顿就有力量熬夜加班。
其实早在上世纪，科学家就发现给正常健康志愿者静脉注射促肾上皮质激素释放激素（CRH），促肾上腺皮质激素释放激素（ACTH）以及可的松以后，可以明显减少快速动眼期睡眠和慢波睡眠。而 Vagontaz 研究组更是在失眠患者血液中探测到了更高的 CRH 和 ACTH 含量。
上面的图很直观地现实了这两种激素在人体内的节律调节。黑线表示失眠患者的激素水平，白线表示正常人。可以看到，在每天 22 点到次日凌晨 2 点之间达到最低值，也就是正常人进入熟睡的阶段，失眠患者的 ACTH 和 CRH 水平居高不下，这也是直接导致皮质激素水平升高而失眠的重要原因。结合社会分析，白天工作社交压力比较大的人群，体内 HPA 活性相对偏高，会有大量的调节激素积累在血液中，这也能解释晚上的失眠部分是因为白天的压力造成的。
除此以外，其他激素也扮演了相当重要的角色。例如女性体内的雌激素和孕激素水平下调可以直接导致失眠，这也是绝经后女性以及脱荷尔蒙治疗的乳腺癌患者所经常发生的不良反应。从流行病学角度讲，正常人群中有 10%－30%的成年人有失眠症状，其中失眠率上老人高于年轻人，女性高于男性。
上图来自 wikipedia 的地域性流行病学分析，越偏红色表示每十万人中失眠患者越多，比较意外的一点是亚洲地区（尤其中国）失眠患者比例偏少。
说着说着就扯远了，希望以上回答能解释题主提出的“失眠时大脑发生了什么”，也期待着其他神经方向大神的补充和指正。
PS：其实失眠很常见， 我们能做的是调节好自己的心态，改善自己的生活质量，不以物喜，不以己悲。答主常常深夜心血来潮，怒答几个知乎，实则是为了更好地熬夜做实验。
按照惯例，最后附上我作答用的参考文献：
1. Roehrs, Timothy, et al. "Physiological correlates of insomnia." Electrophysiology and Psychophysiology in Psychiatry and Psychopharmacology. Springer International Publishing, 2014. 277-290.
2. Nofzinger, Eric A., et al. "Functional neuroimaging evidence for hyperarousal in insomnia." American Journal of Psychiatry 161.11 (2004): 2126-2128.
3. Nofzinger, E. A., et al. "Regional cerebral metabolic correlates of WASO during NREM sleep in insomnia." J Clin Sleep Med 2.3 (2006): 316-322.
4. Vgontzas, Alexandros N., et al. "Chronic insomnia is associated with nyctohemeral activation of the hypothalamic-pituitary-adrenal axis: clinical implications." The Journal of Clinical Endocrinology & Metabolism 86.8 (2001): 3787-3794.
5. Vgontzas, Alexandros N., et al. "Insomnia with objective short sleep duration: the most biologically severe phenotype of the disorder." Sleep medicine reviews 17.4 (2013): 241-254.
6. Baglioni, Chiara, et al. "Sleep changes in the disorder of insomnia: a meta-analysis of polysomnographic studies." Sleep medicine reviews 18.3 (2014): 195-213.
7. Bonnet, M. H., and D. L. Arand. "24-Hour metabolic rate in insomniacs and matched normal sleepers." SLEEP-NEW YORK- 18 (1995): 581-581.
8. Born, Jan, et al. "Influences of Corticotropin-Releasing Hormone, Adrenocorticotropin, and Cortisol on Sleep in Normal Man*." The Journal of Clinical Endocrinology & Metabolism 68.5 (1989): 904-911.
9. Matsumoto, Kinzo, Kazuma Ojima, and Hiroshi Watanabe. "Central corticotropin-releasing factor and benzodiazepine receptor systems are involved in the social isolation stress-induced decrease in ethanol sleep in mice." Brain research 753.2 (1997): 318-321.