【与后篇晓放汴舟同时作黄名几复】
Sikuaip 居然擅自把原有 夾注號【】去掉了。這是不可饒恕的錯誤，僅此一點，就不能使用它。
同樣的毛病 有些大模型也有，我測試，百度的 文心AI，加標點時，不老實，會擅自修改原文，僅此一點，必須棄用它。
你应该使用无标点文本测试。。
古联模型的标点水平我觉得比较一般，下面是Gemini 1.5 Pro的标点结果，或许更好一些，起码各种标点符号加足，更容易语义区分和理解。
Gemini 1.5 Pro：
汴岸置酒赠黄十七【与后篇《晓放汴舟》同时作，黄名几复】
吾宗端居丛百忧，长歌劝之肯出游？【一作：百丈暮卷篙人休，侵星争前犹几舟】
黄流不解涴明月，【孟郊寓言：谁言浊路泥，不污明月色】
碧树为我生凉秋。【杜诗：寒蝉碧树秋】
初平群羊置莫问，叔度千顷醉即休。【一作：诗吟吾党夜来作，酒置田翁社后篘。葛洪《神仙传》云：皇初平年十五，家使牧羊，有道士将至金华山，四十余年，其兄初起求得之，问羊何在，初平言：叱叱！羊起。于是白石皆起成羊，数万头。后汉黄宪字叔度。郭林宗曰：叔度汪汪若千顷波。皇初平亦作黄，山谷多用此事。按杨文公《谈苑》：金华山，乃皇初平化石之地，有石如羊形者，人争求以为玩好，有内侍掌市征于婺州，辍己俸募人求得耳、角、尾、足皆具，如真羊者数枚，归阙献之，太祖曰：此墓田中物也，杖其内侍。神仙之说，固多渺茫，而皇初平事信而有证，此其彰彰者也。】
谁倚柁楼吹玉笛？【用晋王廙柁楼长啸事，玉笛见前注】
斗杓寒挂屋山头。【屋山见前注，又王荆公诗：落木回飙动屋山。王立之《诗话》：山谷谓洪龟父云：甥爱老舅何等篇？龟父举“蜂房各开戸牖，蚁穴或梦封侯”，王及“其黄流不解涴明月，碧树为我生凉秋”，深类老杜。山谷云：得之矣。】
龟父举“蜂房各开戸牖，蚁穴或梦封侯”，王及“其黄流不解涴明月，碧树为我生凉秋”，深类老杜。
Gemini 1.5 Pro在这里标点错了，但实质的问题是原文“蜂房各开戸牖蚁穴或梦封侯王”漏了一个“自”，七个字凑不起来，弄得模型不知所措了。修正后让Gemini模型标点，结果如下：
汴岸置酒赠黄十七【与后篇《晓放汴舟》同时作，黄名几复】
吾宗端居丛百忧，长歌劝之肯出游？【一作：百丈暮卷篙人休，侵星争前犹几舟】
黄流不解涴明月，【孟郊《寓言》：“谁言浊路泥，不污明月色。”】
碧树为我生凉秋。【杜诗：“寒蝉碧树秋”。】
初平群羊置莫问，叔度千顷醉即休。【一作：诗吟吾党夜来作，酒置田翁社后篘。葛洪《神仙传》云：皇初平年十五，家使牧羊，有道士将至金华山四十余年，其兄初起求得之。问：“羊何在？”初平言：“叱叱！”羊起。于是白石皆起成羊，数万头。后汉黄宪字叔度，郭林宗曰：“叔度汪汪若千顷波。”皇初平亦作黄，山谷多用此事。按杨文公《谈苑》：金华山乃皇初平化石之地，有石如羊形者，人争求以为玩好，有内侍掌市征于婺州，辍己俸募人求得，耳、角、尾、足皆具，如真羊者数枚，归阙献之。太祖曰：“此墓田中物也。”杖其内侍。神仙之说固多渺茫，而皇初平事信而有证，此其彰彰者也。】
谁倚柁楼吹玉笛？【用晋王廙柁楼长啸事，玉笛见前注】
斗杓寒挂屋山头。【屋山见前注。又王荆公诗：“落木回飙动屋山。”王立之《诗话》：“山谷谓洪龟父云：‘甥爱老舅何等篇？’龟父举“蜂房各自开户牖，蚁穴或梦封侯王。”“及其“黄流不解涴明月，碧树为我生凉秋”，深类老杜。’山谷云：‘得之矣。’”】
1 个赞
都是文化人，好好说话，最好用商榷的口吻，别喷，什么叫“不可饶恕的错误”？触犯《刑法》哪一条了？
第一，sikubert的原作者在github上说了，输入的文本需要去掉空格、换行符。在标点功能中，【】符号已经被其他标点符号替换掉，如果不想替换，可以用其断句功能。
第二，说实话，目前国内搞语言AI的，哪个单位不是跟着国外open ai、Google等大机构在走？恐怕国内没有哪个机构能拍胸脯说自己的模型遥遥领先。
第三，每个模型的超参数设置、学习的语料各有不同，在不同语料上的分词、断句上有差异，非常正常。如果要了解每种模型各自更擅长什么类型的文体，可以参考原作者的论文。但如果仅仅用几个个例来评判孰优孰劣，而非用成规模的test dataset，就比较偏颇。
第四，之前也有amob朋友提到了，SikuBERT在计算语言学、nlp领域很有影响力。SikuBERT是国内少有的把古文分词断句模型无私分享开源、可以本地部署的模型，这是仅提供网页端服务的网站所不能比拟的优势。
1 个赞
再贴一个 claude 3.5 sonnet 20240620 标点的结果，是用 https://chat.lmsys.org/ 的Direct Chat测试的，古文理解水平好像不如Gemini 1.5 Pro：
汴岸置酒赠黄十七【与后篇晓放汴舟同时作，黄名几复】
吾宗端居丛百忧，长歌劝之肯出游。【一作：百丈暮卷篙，人休侵星争前犹几舟。】
黄流不解涴明月，【孟郊寓言：谁言浊路泥，不污明月色。】
碧树为我生凉秋。【杜诗：寒蝉碧树秋。】
初平群羊置莫问，叔度千顷醉即休。【一作：诗吟吾党夜来作，酒置田翁社后篘。葛洪神仙传云：皇初平年十五，家使牧羊。有道士将至金华山，四十余年。其兄初起求得之，问羊何在。初平言：“叱叱”，羊起。于是白石皆起，成羊数万头。后汉黄宪字叔度，郭林宗曰："叔度汪汪若千顷波。"皇初平亦作黄山谷，多用此事。按杨文公谈苑：金华山乃皇初平化石之地，有石如羊形者，人争求以为玩好。有内侍掌市征于婺州，辍已俸募人求得耳角尾足皆具如真羊者数枚，归阙献之。太祖曰："此墓田中物也。"杖其内侍。神仙之说固多渺茫，而皇初平事信而有证，此其彰彰者也。】
谁倚柁楼吹玉笛？【用晋王廙柁楼长啸事，玉笛见前注。】
斗杓寒挂屋山头。【屋山见前注。又王荆公诗：落木回颷动屋山。王立之诗话：山谷谓洪龟父云："甥爱老舅何等篇？"龟父举："蜂房各自开戸牖，蚁穴或梦封侯王。“及其"黄流不解涴明月，碧树为我生凉秋”，深类老杜。山谷云：“得之矣。”】
sikubert的原作者在github上说了，输入的文本需要去掉空格、换行符。
這個我後來看到了。 它的定位可能就是處理一些簡單的文本。夾雜一些其他符號的文本非它所長。可能我對它的期望太高了。
能免費開源值得讚歎。多一種工具也是好事。
面向数字人文的古籍智能处理平台sikuaip1.0版本已正式发布
下载链接:百度网盘 请输入提取码 提取码：m36d
平台的使用方法见“使用方法”文件夹，目前版本支持分词，断句，实体识别，文本分类，词性标注和自动标点六种功能，提供单文本处理和语料库处理两种文本处理模式，欢迎下载使用！
Gemini 1.5 Pro要掛梯子才能用吧
这些模型都不容易用，即使挂梯子，选择的地区或者国家不对，轻则不让你用，重则封号。风水轮流转，以前封别人，现在轮到别人封你了，哈哈。
你还要考虑费用问题。测试使用的样本最好是未公开的古籍文本，需要纯文本并且长度控制在 500 字以内，你给出预期的标点结果，然后让大家测试不同的 AI 自动断句和标点的能力。
保留原始的符号是非常简单的事情。有能力调用模型 api 的人，都可以自己完成。主要还是要测试纯文本的自动断句和标点的能力。
古文标点我相对而言比较推荐Gemini 1.5 Pro，其中一个原因是不必受限于500字。我在测试四库史部一本5万字的书，网上没有点校过的文本，让Gemini标点，它正在哼哧哼哧地干，有点耗时，待标点完毕我把结果贴在这里。
2 个赞
《四庫全書·史部·敬止集》原文：
四庫史部 158 敬止集.txt (148.3 KB)
《四庫全書·史部·敬止集》Gemini 1.5 Pro标点结果。这里的文档是我直接从互动界面复制的，没有编辑过，所有原始指令和系统提示都保留着，以供参考。
四庫全書 敬止集（Gemini 1.5 Pro标点结果）.txt (156.4 KB)
再次使用Sikuaip测试标点夏竦的两篇文章。一篇为散文，一篇为赋。其中第一篇分为两段标点，尽管仍有一些错误，但准确度已经相当高。但第二篇赋的标点则错误太多，基本无法阅读（随便一说，标点本《古今图书集成》的很多标点错误类似，可能即用AI或有关软件完成的）。综合昨日测试的诗歌，可以判断：Sikuaip长于散文或应用性文体，诗赋等文学性文体的标点问题较多。发布测试，并非吹毛求疵，只是客观地评价一下而已。总之，这是一套相当不错的软件系统。
两文标点结果（只是将标题单列一行，其他未作任何改动）
杭州宝云寺记
宝云寺者，吴越忠懿王所建千光王寺也。西方之教，东流震旦，盛衰由于祗刼，轻重系于震历五代纷竞诸夏陆梁，妙音阻而不通，法器垂而将坠。惟钱氏之守淛水也，禀天王之正朔，受如来之教戒。是时吴楚间国号为有道诸侯，带江负海，列郡十三，数世百年，干戈不试，益以为得大雄法力，故竭宝玉，崇塔庙，具香华，鸣锺鼓以事之。尝有里人张仁昭者，诵薄伽梵姥陁罗尼，积有年所，感召殊祥。摄衢州刺史翁成起闻之，欲旌其事，乃请于王，以乾徳戊辰岁春二月创是寺，于钱塘门之西，建千光王像，因以名之。其制则台门前辟绀殿，中立高楼，东建鸿钟屡发，案台西峙，龙藏常转，旁俨像设后引堂构经斋方丈温室，云㕑四百，其楹，再润而毕。面白傅之湖，负武林之岫，右则鹊巢遗阜，左则星陨派峰。石怒欲飞，松怪如折，梵声飘海外，香云荫空际，清吹时落，纤尘不飞。乃朝贵游心之境，苍生祈福之所。始请睦州九峰山僧环省升法堂，谈妙义，未几而终。复请衢州镇境寺积善禅师义澄登宝座，语真空，于斯为盛。是二师者，皆学于郡永明寺道潜禅师，悟诸梦幻泡影，无有言语文字，以心传心，深入圆顿，故其门听法者，朝夕如市焉。洎！我国家受命之十八年，王俶归朝，奉图献地。皇明所及，佛日重光。雍熙二年，寺僧有因请真命于阙下，太宗皇帝诏以今额赐之，革伪号也。中贵人蓝敏正书之，勤佛事也。时法鼓重鸣，金姿再构，赞呗钟磬，盛于往初。洎淳化改号之明年，积善大师西向右脇而灭，其徒义隆传衣受法，俄亦圆寂。懿夫禅源未涸，达士挺生。于是义澄法师屈知寺住师，神彩高扩，藏识圆明，慈悲以导众生，贞谅以接朝士。禅诵之暇，务以庄严为意。故咸平三祀，选日庀工，阶砌殿堂，悉增前制。化清虚于妙乐，拟庄丽于只洹，为南国之名区，作西郊之极观。有大善知识作是言曰：善哉！寺之兴也，有五善焉：张仁昭之感应，翁成起之信重，忠懿王之崇建，僧有因之请命，蓝敏正之书法。法之行也，有三达焉。九峰之证入，积善之辩慧，义隆之传授，足以表名山之昭感，示皇觉之遗休。若夫摄五善之心，证三达之法，景行精进，十四年于兹者，则有法证公焉。浙江东西，其名尚矣，固可书诸金石，垂于不朽者也。某素肄典坟，专谈仁义，未穷观于八藏，难了悟于三宗。奉运使兵部尚书郎江夏黄公世长之命，不敢固辞，但记其兴置年月，传授次第而巳。若叙顿渐之宗，开权实之义，破诸有相，以至无生，盖有格言，请俟能者。
河清赋
有客谓臣曰：朝廷将祀汾南，为民祈谷，大河载清于陕之服，子尝闻其说而颂其异乎？臣曰：传遽之吏，罕聆朝议。愿客摅抱剧谈，开我以嘉瑞。客曰：唯唯。盖闻滔滔灵源，发自崑仑，导于积石，出于龙门，怀砥柱而势迥，播钜鹿而分三王先之于，祭四渎宗以为。尊千里兮一，曲浊流兮浑。浑乘春则桃花竞，涌赴下则竹箭争。奔若澄清而变，色实千祀而畴。徳为中夏之经，渎故其应有；常通上天之，绦河故其灵不。测洎我国家秉皇，图宣帝，力尊百，神朝万，国光明乎遐，绝馨香乎霄。极禅云亭而广，厚玉简既，封祀汾脽而颂。祗鸾旗未，西人清候而，望幸六官戒期而，励翼爰荐祉而。炳灵灔澄波之，湜湜徒观其祥风，荡漾非烟。蒙羃浮休气于，川上泛荣光于。岸侧失汹涌之，黄流湛清泠之。素液银潢之影，横秋帝台之浆。映日江练，初静壶冰，乍释监秋毫及，纤尘露金沙与；银砾神鱼，龙马泳深渊而；不隐紫阙，珠宫扩洪流而。可觌合济渎兮，安辨委沧溟兮。竞碧吉蠲自等于，明水嘉号宜尊于。清涤可以颂，于庙式告，元符賛，于史以永。大谟岂比夫兰叶，朱文涌黄灵；之箓芝泥，玉柙泛帝嬀；之图登夏子之，巍巍掩汉唐之。区区子盍献议，外廷上封，公车请以水而，纪官以瑞而，建元然后登歌而，率舞岂非士大夫之？