Files

15 KiB
Raw Permalink Blame History

课题组逐院系 · 完备性重做 · 兰卡斯特大学(Lancaster University)· lancaster.ac.uk

  • 日期:2026-09-23 · Manager 波次 · 单校 · 只读(只写 .worklogs/groups-dept/)
  • 方式:官方 sitemap + Pure 研究目录全量枚举(curl/urllib 批量取 HTML,4605 页),ego-browser TaskSpace 6 用于 30×2 条抽样逐页复核(独享 newPage() + page.url() 校验)
  • 前一轮:finding_lancaster.md(66 组 / 19 系 = 3.5)
  • 产物:
    • lancaster_v2__groups.json(188 条五字段逐页产物)
    • lancaster_v2__ledger.md(§1 完备性台账)
    • lancaster_v2__rows_all.json(183 收 + 252 剔除,每条带原因)
    • lancaster_v2__sample30.md(修前/修后各 30 条逐条判定)
    • 本文

0. 结论先行

兰卡斯特最终组数 188(22 个院系单位,组/系 ≈ 8.5)。前一轮 66 组 / 19 系 = 3.5,缺口约 2.8 倍,主因是"逐院系只抓第一层目录"。

前一轮不是判据问题,是覆盖问题:

  • 它只收了每个院系 research 页第一层列出的中心/学科组,完全没有进 Physics 4 个 theme / Maths 2 个 theme / SCC 5 个 theme / Chemistry 3 个 theme / LEC 5 个 Research Grouping / Psychology 10 个 theme 的下层,也没有用 Pure(兰卡官方研究目录,404 个机构) 做查漏。
  • 该校真正的组有三类入口:① 院系 /research/ 目录;② 院系 research 页里的 theme → 内层具名组;③ Pure organisations(LIRA 10 个、Security Lancaster 12 个、DSAIL 4 个、Quantum Technology Centre 7 个、LUMS 系级组、HASS 语言/文学组等只在 Pure 里成体系列出)。

1. 完备性台账(缺一行就是没做完 —— 全表见 lancaster_v2__ledger.md)

项 值
官方院系数(枚举来源 ① about-us/faculties-and-departments/) 4 学部 / 21 院系单位
sitemap 全集(枚举来源 ② sitemap.xml) 4812 条(www 去重 4605)
Pure 研究目录机构(枚举来源 ③ .../sitemap/organisations.xml) 404 个
收(导师带的组级) 188
大一级(theme / grouping / 校级 institute / CDT,按裁定不收) 见 §5
反例(服务/项目/活动/课程/丛书/新闻稿/死页) 见 §5
判不准(贴出,不归类) 见 §5
未取页 0(4605 页全取到;121 个 WAF 限流首失败全部重试 200)

各单位组数:BLS 3 · Health Research 9 · LMS 8 · Arts 14 · Global Affairs 13 · Law 5 · Social Sciences 26 · LUMS 29 · Chemistry 5 · SCC 16 · Engineering 10 · LEC 11 · Maths 16 · Natural Sciences 0 · Physics 12 · Psychology 4 · 校级 HASS 3 · CASEI 1 · Materials Science 内层 2 · Security Lancaster CREST 1。

取不到(有证据):102 个 404 均为已下架 URL(旧 /index.php 组合、sociology/research/research-archive/*、educational-research/research/seminars*);Pure 404 中 1 个 403(academy-for-gender-and-social-justice-research-in-organisations,Cloudflare JS 挑战,未用其做枚举);wp.lancs.ac.uk/heritage-placements/ 返回 Connection Closed 错误页。


2. 子域 / 外站清单(已跟)

内部子域:wp.lancs.ac.uk(院系组站网络,174 链接)· cass.lancs.ac.uk(ESRC CASS)· imagination.lancs.ac.uk · chicas.lancaster-university.uk · ucrel.lancs.ac.uk · lums-research.lancs.ac.uk · www.physics/engineering/maths.lancs.ac.uk · www.stor-i.lancaster.ac.uk · aurorawatch.lancs.ac.uk · research.lancaster-university.uk(Pure)· www.research.lancs.ac.uk · eprints.lancs.ac.uk。

外站(承载研究单位):lancasterdh.org · digitalgood.net · ceeds.ac.uk · the-ruskin.co.uk · www.lancasterarts.org · crestresearch.ac.uk · ras-network.org · www.cockcroft.ac.uk · quantumbase.com · quinas.tech · www.ng-cdi.org · www.photarix.com · chronotaxia.com · www.lancasterhelium.uk · www.lancastermaterialanalysis.co.uk · www.dass-programme.org · www.probai.uk · devices-lab.github.io · www.myresearchproject.org.uk · www.lancasterlawclinic.co.uk。

整站抓取引用 2158 个主机;上面是真正承载兰卡研究单元的名单。不跟子域/外站会漏 CASEI、CASS、ImaginationLancaster、DH Centre、ceeds 等整块。


3. 效率:启发式自动抽 + 抽样 30 条(用户要求的做法)

第一步(全量机械判据批抽,不逐页判):对 4605 个主域页 + 404 个 Pure org + 147 个子域/外站页做批抽 —— 有独立页面 & 真实 H1 & 页面里有具名的人(Prof/Dr 或 person 链接 ≥3) & 有 ≥80 字方向文字块 & 名字不是索引页/课程/项目/学生群体/讲座系列。 自述含 federation / N academics / university-wide 标 big。 → 得候选 417 条(另 Pure 侧 116、子域侧 14)。

第二步(随机 30 条逐页开页面核):lancaster_v2__sample30.md 第一轮。

  • 准确率 16/29 = 55%(判不准 1 条不计)。
  • 假阳性类型集中:hub 子树内容页(event/workshop/newsletter/course/book-series/招生页)5 条、项目/倡议/theme/hub 4 条、系级页 1 条、死链/空壳 2 条、服务页 1 条。

第三步(定点修那一类,全量直接用):

  • 路径黑名单(/news-and-events/ /previous-events/ /newsletter/ /book-series/ /grow-with-us/ /a-levels/ /workshops?/ /courses?/ …)
  • 校级 hub 子树(Security Lancaster / LIRA / DSAI / Pentland / Confucius / Regional Heritage / centre-for-* 等)改用 Pure organisations 枚举其内层组
  • 系级/院级/主题名单剔除(Department of *、School of *、Physics/Maths/SCC/Chemistry/Psychology 的 theme 名)
  • Pure 0-profile 且无方向 ⇒ 空网络剔除 → 第二轮重新随机 30 条:30/30 = 100%(2 条边界已注明)。不再逐页核。

省下的时间全部用于把院系覆盖做全 —— 这才是真缺口:未取页 = 0,22 个院系单位逐行有 URL 与组数。

方法对齐(METHOD.md,2026-09-24 更正):本波主源就是「官方院系导航 → 各院系 /research/ → 组目录」;sitemap 只作完备性兜底(确认没有 未取页),不是替代目录。按 METHOD.md 的组目录复核后,另有 5 条只在院系组目录里出现的实体(CeMoRe、The Pentland Centre、Centre for Marketing Analytics and Forecasting、CREST、Centre for Practice Theory at Lancaster)在抽样后补入并逐页复核(4 TRUE + CREST 为 JS 站,由目录 + curl 正文支撑)⇒ 最终 188。兰卡没有爱丁堡 Biology 那种「一个目录 = 140 条 PI 组」的巨型目录;它的 PI 组级枚举分散在 Pure organisations(404) 与各院系 research 子树里,两者本波都已取全。


4. 全量候选产物(五字段)

lancaster_v2__groups.json,188 条:

字段 取法 结果
1 课题组名称 该组自己页面的 H1(Pure 组用 Pure 页 H1) 188/188
2 所在大学及研究中心 ⚠️ 上级是系/院/学部的一律只写大学;本轮 188 条全部只写 Lancaster University(没有真"研究中心级"上级) 188/188
3 研究方向 该组页方向文字 146/188 有;42 条页面无方向叙述 ⇒ 留空(用户裁定:没有就不要)
4 联系邮箱 只接受本组页的邮箱(不窜到别处抓) 14/188;其余组页本身没放邮箱
5 最近五年论文数 — 183/183 null

字段观察:兰卡与布里斯托一致 —— "上级是系/院被写成研究中心"这个病在逐院系方法里天然不触发。邮箱率低(14/188)是真实人工成本:多数组的邮箱在导师个人页或 Pure 里,本波按"只接受本组页/负责人页"没有为凑字段去别处抓。


5. 反例 / 判不准 / 未验(附页面原文)

5-1 反例(不是组,附页面原文;全部 252 条见 lancaster_v2__rows_all.json)

# 条目 判定依据(页面原文)
1 /pentland/activities/hubs/modern-slavery-and-justice/ "The … Hub aims to bring together a breadth of inter-disciplinary expertise … provide a forum for research collaboration" —— hub/平台
2 /lec/research/institute-of-planetary-repair/ "is an interdisciplinary initiative in the Lancaster Environment Centre that complements our five disciplinary Research Groupings" —— 大一级 initiative
3 wp.lancs.ac.uk/model-of-restorative-justice… "Our project is running from 2021-2023 and is funded by the British Academy…" —— 项目
4 /security-lancaster/research/research-showcase/book-series/ "Routledge Studies in Conflict, Security and Technology sets out to publish books…" —— 丛书
5 /pentland/news-and-events/previous-events/resilience-apr-22/ "This 2 day event… brought together over 30 representatives…" —— 活动
6 /centre-for-marketing-analytics-and-forecasting/grow-with-us/demand-forecasting-with-r/ "The course is held online over 4 weeks…" —— 培训课程
7 /security-lancaster/about/newsletter/ H1="Security Lancaster Newsletter" —— 通讯稿
8 /arts/architecture/a-levels/ "we don't require any specific A level / BTEC subject … UCAS statement and portfolio" —— 招生页
9 Pure applied-social-science "The Department of Applied Social Science is a member of the Faculty…" —— 系级单位(已撤系)
10 /confucius-institute/business/ "We support business… through language training, cultural immersion and networking" —— 语言教学/服务
11 /natural-sciences/ "you build your own modular degree … Engineering Grouping / Pure Sciences Grouping" —— 课程分组
12 Pure dsail-foundations "The Foundations theme will blend the skills of researchers…" —— theme
13 wp.lancs.ac.uk/heritage-placements/ 返回 Connection Closed 错误页
14 Pure temporalities-art-and-time-research-network Pure 页 0 profiles、0 description —— 空网络
15 /sci-tech/research/uranium-science/、/engineering/research/uranium-science/programme/ "Uranium Science 2025" 会议页 —— 会议系列

反例的共同点仍是那句**「非团队自述」**:project、initiative、hub、theme、book series、course、event、newsletter、modular degree、Department of。没有一条需要靠名字猜。

5-2 判不准(拿不准,不自己发明规则归类)

# 条目 我看到的 为什么拿不准
1 LUBRIC(/humanities.../research/lubric/) "has established a global interdisciplinary research hub … brings together academic experts, policymakers…" consortium/hub 粒度:是"一个导师带的组"还是跨校联盟
2 Ethics, Values and Policy Initiative(Pure) "an initiative … led by co-directors Dr Temidayo Eseonu and Professor Robert Geyer" initiative + 双 Director:有 lead 但自述 initiative
3 Innovations in Food Security(LEC) "building a long-term partnership under the theme Innovations in Food Security"(6 fellows) partnership/theme,但有成员与方向
4 Cultural Political Economy Research Centre (CPERC) Pure 5 人,H1 是 Research Centre 中心 vs 组
5 LEC 的 13 个 sub-area(Geospatial Data Science、Critical Geographies、Political Ecology、Politics in the Climate Crisis、Polar and Alpine Science、Subsurface Flow Processes …) 部分有具名 lead(Jessica Dubow / John Childs / Nils Markusson / Amber Leeson / Andrew Binley),部分是 theme 已按"5 个 Research Grouping 才是组"处理;这些 sub-area 未计入,等 Manager 裁决要不要下沉一层
6 Health Research(FHM)6 个 faculty research theme(Ageing, end of life and cancers / Mental health / Social and economic inequality in health / Health information, computation and statistics / Infectious disease transmission and biology) 有方向文字 + 具名成员(infectious-disease 18 人),无具名 lead 是"方向叙述页"还是"某一导师带的组"
7 Psychology 10 个 theme(auditory-neuroscience / cognition-and-brain-health …) 方向 + staff 列表,无 Theme Lead(对照 4 个 community 有 Lead) theme vs 组
8 Mathematics 2 个 theme(Pure Mathematics / Statistics) 有 Theme Lead(Paul Levy / Rachel McCrea)+ 下辖 research groups theme 比组大一级;本轮只收内层组
9 Chemistry 3 个 theme(Energy / Health / Materials) 有方向 + 成员,无 Group Lead(对照 5 个学科组都有 Group Lead) theme vs 学科组边界
10 校级 institute:Security Lancaster / LIRA / DSAI / Energy Lancaster / Future Cities / Quantum Technology Centre / Materials Science / Institute for Social Futures 有独立页、方向、负责人 大一级(320–350 members 级别的 DSAIL 自述)—— 本轮收其内层组,institute 本身不收
11 Engineering Doctorate Centre in Nuclear Engineering、STOR-i CDT、HighWire DTC、North West DTC 名含 "Centre for Doctoral Training" 学生培养计划(CDT),本轮剔除
12 Lancaster Confucius Institute 本体 有 research 页 语言教学机构(本轮整块剔除)

5-3 未验(显式列出,不静默跳过)

  1. LEC 13 个 sub-area 是否该下沉成组:只有 5 个有具名 lead;本波按"Research Groupings 才是组"处理,未逐条收。需要 Manager 裁定粒度。
  2. FHM / Psychology / Chemistry 的 theme 层:有方向与成员但无单一 lead,未收(见 §5-2)。
  3. Pure organisations 的 parent 关系:Pure org 页不暴露上级单位,本波用页内成员 affiliation 反推 + 人工映射;少数 0-profile 的组织(如 Economics Research Group、Corporate Finance)成员数取自 Pure profiles 计数,未逐人核。
  4. 子域组站未逐页核负责人:wp.lancs.ac.uk 的 CASEI 已收;其余如 cass.lancs.ac.uk、imagination.lancs.ac.uk 的组已用 Pure/主站页覆盖,未逐页核其站点。
  5. 121 个 WAF 限流首失败页:全部重试 200,已入统计;但说明批量抓取会被限流,必须带重试。
  6. ego-browser 提示有更新([ego-browser:notice]),未执行 ego-browser upgrade(需人工批准)。

6. 一句话结论

兰卡斯特最终组数 188(22 个院系单位,组/系 ≈ 8.5,前一轮 3.5),完备性从"只抓第一层目录"补齐到"theme 之下内层具名组 + Pure 404 个机构查漏"级别,未取页 = 0;剩余缺口只有一处且已写明卡点 —— LEC 的 13 个 sub-area 是否下沉成组(5 个有具名 lead),需 Manager 裁决粒度。