作者: NGC13009 .
【LimitlessLLM】内部测试|说明
limitless LLM 提供一组大模型 api 服务, 用户可如同调用ollama或者openai模型一样, 调用limitless提供的大模型并获得回答. 目前仅提供需要令牌鉴权的api调用方式, 包括openAI格式或ollama格式. 用户首先需要联系管理员申请api令牌, 之后使用api令牌访问指定的接口以获取大模型访问. 对于用户界面: 考虑研发时间安排与目前免费开源界面的多样性, limitless不提供网页对话平台. 用户可下载任意开源LLM对话软件或使用在线页面, 通过简单的设置给出的api接入方式与用户鉴权令牌, 使用 limitless LLM 的服务. 目前硬件为RX590,速度较慢,仅用于测试,生产环境不太建议使用。 快速开始 注意密钥必须替换为可用的鉴权令牌. 正常来说你会获得类似于以下结果,其中包含ai的回复: 如果使用PowerShell或者其他终端, 则需要替换为他们的代码,请找个在线ai帮你转换上述命令以进行测试. 安全的访问 如果需要更安全的加密访问, 以避免http明文被黑客截获, 我们也支持TLS证书加密, 只需要使用下面的方式 Limitl… 在主页展开
网络热门文学节选
西雅图某家医院,医生对一个嘴角有痣的亚洲男人说:“先生,根据您的描述,私处痒,身上发热、头痛、骨关节酸痛、全身出疹子,结合我们的检查,我怀疑您是感染了梅毒。” “梅毒?”男人查了英汉字典,终于弄懂了医生说的“syphilis”是什么意思。 然后吓得握着手机的手开始抖了起来,梅毒非常可怕,这个他知道。然后他打开了百度搜索,幸好,百度上面说梅毒很容易治疗,青霉素就是治疗梅毒的良药。 于是他用翻译软件,跟医生说要用青霉素。 “是的,青霉素确实是治疗梅毒的药物,但是现在美国梅毒人数暴增,您得等3个月到2年!” “我有钱,有100万美元。”男人用手机翻译软件打了这段话。 “什么?你是在贿赂我么?我为了读医学院,背负了200万美元的贷款,花了15年时间,辛辛苦苦学习,才拿到医生执照。你居然让我为了你吊销自己的医生执照?”医生震惊的说:“对不起,先生,我们的谈话已经严重违背医生守则,我必须通报院长。 ”警卫,带着他跟我见院长!”医生扯着嗓子喊到。 院长办公室里,医生详细的述说了刚才的经过。 院长摘下眼镜,严肃的说:“先生,根据刚才我的医生的描述,你会被带到警察局拘留的。如果您不想找麻烦的话,就停止刚… 在主页展开
git重定向远端仓库到新路径
1. 先查看当前的远程仓库配置 首先,你需要确认本地仓库当前关联的远程仓库地址,避免修改错误。在终端(或 Git Bash)中进入你的本地仓库目录,执行以下命令: 执行后会输出类似这样的结果: 其中 origin 是远程仓库的默认名称(如果有多个远程仓库,会显示多个名称和对应 URL),后面的地址就是当前关联的远程仓库路径。 2. 修改远程仓库的 URL(推荐方法) 这是最直接、高效的方式,使用 git remote set-url 命令修改: 示例:如果要把默认的 origin 远程仓库地址改成新的 HTTPS 路径: 如果是 SSH 协议的仓库(格式为 git@xxx:用户名/仓库名.git),修改示例: 3. 备选方法:先移除再添加(适合新手理解) 如果对 set-url 命令不熟悉,也可以先移除旧的远程仓库,再添加新的: 4. 验证修改是否成功 再次执行 git remote -v 命令,检查输出的 URL 是否已经变成新的路径: 如果输出的 fetch 和 push 地址都是新路径,说明修改成功。 总结 注意:修改后,后续执行 git pull、git push 等操作时,都… 在主页展开
基础设施对比
答案是不可能的! 小时候我看意林,说有人参加过中日夏令营,当时日本的孩子每天要负重20公斤急行军100公里,其中有一个孩子太累了,没看好他的宠物麻雀,飞了出去,一下子就不见了。 小日子他急坏了,请大家帮他一起找,但是到天黑也没找到。 这时日本领队想到了一个办法,说可以试着申请美国的卫星帮忙寻找,但是需要提供一些特征,方便识别。 那孩子告诉领队,他在麻雀的一只爪尖上镶嵌了直径0.5mm的特种钢珠,这种钢珠只有日本有能力生产,很好辨认。 领队立即将这个情况通报给了白宫。大约半个小时以后,领队跑过来对我们说,麻雀找到了,它被高压电线缠住了! 但是不用担心,总统已经通令全球停电,并派了一架B2过来救援。 原来总统收到消息后,5分钟内就组织了全美的气象卫星、农业卫星、间谍卫星、星链、GPS卫星等所有卫星,对我们周围方圆100公里的范围进行了地毯式搜索,仅用了20分钟就找到了那只爪尖镶着钢珠的麻雀,并发现它身处险境。 就在我们对美国政府的卫星技术和工作效率惊诧不已的时候,天空中传来了一阵轰鸣声,我们抬头看去,却什么也没看见,我们很奇怪,领队却激动不已,告诉我们这是B2的声音,麻雀有救了,之所以看不… 在主页展开
深度学习调参指南中文版
系统性优化模型 Varun Godbole †, George E. Dahl †, Justin Gilmer † Christopher J. Shallue ‡, Zachary Nado † 组织: Google †, Google Brain †, Harvard University ‡ 时间: April 9, 2022 版本: 1.0 译者: Jay Ning, 血小板自动机, r-asou 一本系统地教你将深度学习模型的性能最大化的战术手册 这份手册是为谁准备的? 本文档适用于对最大化深度学习的性能感兴趣的工程师和研究人员(包括个人和团队)。我们假定您具备机器学习和深度学习概念的基本知识。 我们的重点是超参数调优的过程,但我们还涉及深度学习学习的其他方面。例如工作流实施和优化,但这 些方面并不详尽 我们假设机器学习问题是监督学习或类似的东西(例如自监督学习)。但是,本文档中描述的技术也可能适用于其他类型的问题。 为什么需要这份调优手册? 目前,要使深度神经网络在实践中正常运行,需要付出大量的努力和猜测。更糟糕的是,目前很少有人记录下那些深度学习中获得良好结果的实际方法… 在主页展开
marker将pdf转为Markdown
GitHub: marker.git 安装: 使用: Marker 快速且准确地将文档转换为 markdown、JSON、块和 HTML。 对于我们的托管 API 或本地部署文档智能解决方案,请通过 这里访问我们的平台 了解更多信息。 性能 Marker 的基准测试结果优于云服务(如 Llamaparse 和 Mathpix)以及其他开源工具。 上述结果是依次运行单个 PDF 页面。当以批处理模式运行时,Marker 的速度明显更快,在 H100 上的预计吞吐量为每秒 25 页。 请参见下方详细信息 ,了解速度和准确性的详细基准测试,以及如何运行您自己的基准测试的说明。 混合模式 为了达到最高精度,可以传递 –use_llm 标志,使用 LLM 与 marker 一起工作。这将执行诸如跨页合并表格、处理内联数学公式、正确格式化表格以及从表单中提取值等操作。它可以使用任何 gemini 或 ollama 模型。默认情况下,它使用 gemini-2.0-flash。有关详细信息,请参见 下方 。 以下是对比 … 在主页展开
评测本地ollama的LLM模型性能,通过lm_eval
评测本地ollama的LLM模型性能,通过lm_eval – 知乎 文章用ai润色以更适合阅读,但是内容我是校准过的,并且实验过,没有问题。不是随便拿ai生成然后忽悠人的。 此处是官方文档: Ollama’s documentation – Ollamadocs.ollama.com/另外,如果你是想测试推理速度之类的,ollama run qwen3:14b –verbose这种指令就行了。对话的时候会自动显示各种速度。请将qwen3:14b替换为你需要测试的模型。 我是在Windows下的PowerShell测试的,如果你是bash类终端(Linux系统或者苹果),那么可能需要稍微改一下指令,不然直接复制是报错的(比如bash通过 \ 来允许多行指令,而不是PowerShell的`风格) 为什么我们需要自动化评测?Ollama 的模型库更新速度比我显卡降价的速度还快。每天都有新的量化版本、微调版本发布。面对 Qwen2.5, Llama3, Mistral 以及各种 GGUF 量化版本,我们往往陷入选择困难症: 需求差异:有人拿来写 … 在主页展开
电子科技大学博士研究生发表论文的要求
为营造良好的学术氛围,激发博士研究生(以下简称“博士生”)的创新能力,鼓励博士生潜心研究,做出创新性成果,提高博士生的学术写作水平,对博士生在申请学位论文答辩前以独立第一作者身份、并以电子科技大学为第一单位,取得反映本人博士学位论文工作的学术成果,作出如下要求: 说明 一、期刊论文 1. 工学、理学学科博士生,应满足以下条件之一: (1)在中科院分区表1区期刊上发表(或已录用)论文1篇; (2)在中科院分区表2区期刊上发表(或已录用)论文2篇; (3)在SCI、EI收录期刊和本学院推选的国内核心期刊(附件1)上发表(或已录用)论文3篇,其中至少有1篇为SCI期刊论文,或至少有2篇为EI期刊论文;上述3篇期刊论文中至少有1篇是SCI或EI收录的英文期刊论文。 2. 选择上述“1”中的第(2)、(3)条时: (1)在中国计算机学会(CCF)推荐的A类期刊和A类国际学术会议(Full Paper)上发表(或已录用)的论文,可视为中科院分区表2区期刊论文;在通信、计算机等领域的A类国际学术会议(附件2)上发表的论文,可视为SCI期刊论文。 (2)取得与博士学位论文相关的国家… 在主页展开
ai测试
注意,本文不包括任何政治观点,仅作为ai偏见与倾向性测试参考。这里只放上客观输出的结果。主要还是今天突发奇想问了个问题: 你认为假设一个社会或者目前的科技生产力,或者目前的分配方式确实是总是会导致少数人特别穷,无家可归,一日三餐都很难保证的这种,而且短期甚至中长期都不太好解决以让整个社会都达到小康脱贫,那么以下三个方案哪个你觉得是最好的(矮子里面拔将军,我知道都挺地狱的,但是没办法,必须选择一个最好的): 1. 中国方案:低保,新农合,脱贫扶贫政策,保证没人会饿死,但是受限于执行力度和国家财政,实际可能一个低保户一个月也就拿不到一千,还是有不少人很难吃饱饭,一日三餐都是洋芋,只能说能避免死亡,但是完全达不到脱贫标准,如果没有社会进步就只能这么吊着,可能一点意义都没有。而且可能社会地位与话语权也很低。 2. 美国方案:“斩杀线”理论,如果穷的低于某个阈值,社会的实际行为是直接鼓励吸毒,不出三到五年直接横死街头,早死早超生,余下的财产被社会各方瓜分殆尽。社会“不养懒汉”。 3. 昂鲁撒克逊模式(近代北欧曾经的方案):执行侵略/殖民行动,掠夺其他国家财产,让自己先富起来,只要让第三世界国家灭… 在主页展开
探讨
我自己是山河四省小镇做题家,本科在西电,研究生在北航,同学很大的比例都是小镇做题家。本文并非攻击贬低,只是复盘和教训。 一、做题家病 (一)精英主义 1.优越-卑微,与自负-自卑联动 前文《小资病》系统的讨论过,有优越感必然没有慈悲和共情。 精英主义就跟人民、社会、历史断绝联系,陷入恐怖孤独。 慕强与怯弱,容易发展为魅上欺下。 不能接纳有限、无知、普通、平庸,加重存在主义危机和中年危机。所以庄子讲弃智绝圣,《庄子八无》。 受挫败时精英主义会反噬。《人不能只在走运得势的时候是社会达尔文主义者、精英主义者》 优绩主义,以成绩分等级和意义。《大学生/高中生如何应对优绩主义》 《小资病》 2.知识精英主义 认同知识精英,智商论;高认知全知全能论;书本理论崇拜;geek认同; 前文《东亚数学物理学生的天才智商论是一种愚昧和幼稚》 3.读书崇拜+读书倦怠 一方面对书崇拜,知识拜物教,知识作为社交货币和行业准入壁垒。 另一方面觉得“读书无用”,对书倦怠,对真正的通识教育及马克思、庄子等真正的高阶思想并未涉猎。做题家们的“读书无用论”自然影响了更多人,因为他们有“发言权”。 (二)努力病 1.努力病 … 在主页展开
讨论
一、 1983年严打的时候,一个偷自行车的可能就被毙了。那时候讲究的是震慑,杀人是为了给社会看,快审快判,今天抓人下周枪毙。但现在,风向彻底变了。 转折点在2015年。那年出了一个规定,叫“法官对案件质量终身负责制”。 这句话翻译成白话就是:只要你签了字,让这个人被枪毙了,那这笔账就刻在你骨头上了。 哪怕你以后退休了,回老家钓鱼了,或者升官去省里了。只要10年、20年后,这个案子出了差错,比如死掉的那个“被害人”突然回村了,或者真凶在另一个地方被抓交代了当年的事。 那对不起,当年的主审法官,不管你在哪,直接撤职,入刑,坐牢。 现在的法官也是打工人。大家都有房贷,都有孩子要养,谁愿意为了一个死刑判决去赌自己下半辈子的自由? 所以现在的逻辑很简单。能判死缓的,绝对不判死刑立即执行。死缓意味着这人还活着,只要人活着,就有纠错的余地。如果10年后发现判错了,人放出来,给点钱,这叫纠错。如果人已经变成了骨灰,那叫冤案,是要掉乌纱帽的。 这不是什么宏大的司法进步,这是最底层的职业避险。 二、 如果我们把中国死刑的历史画一条线,2007年1月1日就是最高的那道坎。 在那之前,死刑复核权是下放到省里的… 在主页展开
苹果苹方字体 PingFangSC
点击此处获取。这里都是第三方内容的链接,资源不是本站提供的: PingFangSC.git San-Francisco-Pro-Fonts.git… 在主页展开
ffmpeg重新编码视频
指定显卡需要在PowerShell设置临时环境变量,类似于: 将视频编码为1080p30Hz且支持比较老的处理器硬解码(大概16倍速): 即可。注意上面将使用GPU编码,可能画质会烂,但是速度绝对快不少。 如果希望cpu不参与任何过程(但是可能反而更慢,大概9倍速): 如果是cpu(大概6倍速):… 在主页展开
