#mark

又手痒开了一个 dropbox 3TB 的 professional

目前开的网盘和订阅价格:

● Dropbox 3TB: 699 里拉 / 年
● Google Drive 2TB: 499 里拉 / 年
● Onedrive 1TB: 15 RMB / 年
● 天翼云盘 10TB: 300 RMB

via Memos

image.png

146.7 KB

#bb

支持账号系统的 cursor 居然连配置同步的能力都没有.

账号就是用来开通 API 权限的吗😂

● https://forum.cursor.com/t/sync-of-keybindings-and-settings/31/40

via Memos

#bob #plugin

简单搞了个 bob -> 欧路词典的插件: 在 https://github.com/yuhaowin/wordbook-bob-plugin 的基础上添加了一个 自动单词验证 的功能.

https://github.com/Lincest/wordbook-bob-plugin

via Memos

#mark

● https://github.com/GPT-language/gpt-tutor-for-chrome/blob/3c51f2d13773890de2a17319066758938b7181f8/src/common/services/Chinese.json

看到的一个挺好的语言翻译类的 prompt 合集

via Memos

#obsidian #tools

● https://github.com/Canna71/obsidian-janitor

一个 obsidian 用于清理孤立文件、空文件、大文件和过期笔记的插件

via Memos

#mark

防止使用 US 节点时, Google 搜索时的时区错乱情况:

● https://www.google.com/preferences?hl=zh-CN⟨=1&prev=https://www.google.com/preferences?hl%3Dzh-CN

选择 搜索结果区域 为 香港 or 新加坡 (东 8 区)

via Memos

#llm #leaderboard

Artificial Analysis LLM Leaderboard

Artificial Analysis 的评测方法注重实际应用场景，尤其是 API 调用的性能表现，这与 LMSYS Chatbot Arena 等更注重输出质量的评测形成互补

https://artificialanalysis.ai/leaderboards/models

via Memos

#cloud #storage #网盘

后续花了几十分钟抓包找原因, 发现是因为 *.ctyunxs.cn, 将这玩意分流到一个 300ms 的欧洲去都比在国内直连快, 分流到阿里 HK 更是比直连快了几百倍 (100kbps -> 200Mbps)

国内的运营商环境还是太烂了, 内卷严重, 以后网盘还是主力 google drive 吧😅

via Memos

#网盘 #cloud #storage

花了 300 开了个天翼云盘扩容 10t，发现对家里的联通宽带限速极为严重，体验不是很好。

不过算下来 10t 永久的价格还可以，运营商的网盘感觉也会比那些乱七八糟的稳定一些。

via Memos

#llm

Bilibili 技术: 大模型推理加速的研究与分析

加速方案的主要思路

1 - 算子层优化：

● Operator Fusion：通过将多个算子融合为一个复杂算子，减少内存访存次数，加快计算速度。
● High-Performance Acceleration Library：使用如ONNX Runtime、TVM、cuBLAS、FasterTransformer等高性能加速库，优化常见的神经网络算子的计算性能。
● Layer Fusion：在多头注意力机制中，将所有操作合并到一个计算核中，减少数据传输并提高数学密度。

2 - 算法层优化：

● Quantization Techniques：使用精度更低的单位来表示模型的权重或激活值，以节省空间和加速模型推理速度。
● Speculative Decoding：通过使用一个简洁且反应迅速的小型模型来辅助解码，提升推理速度。
● Sharding Strategy Optimization：通过模型分片将不同部分的计算任务分布到多个设备上，减少单个设备的内存压力和计算瓶颈。

3 - 框架层优化：

● Contiguous Batching：通过在推理过程中保持请求的连续批量处理，减少上下文切换和内存调度带来的开销。
● PageAttention：优化Attention机制中的KV存储，减少内存占用，提高内存访问效率。
● TensorRT-LLM和MindelIE-LLM框架：通过支持多种Attention机制和流水线并行、跨层并行等技术，提高推理的吞吐量和响应速度。

via Memos

#mark

看到的一个非常不错的讲 deepseek v3 paper 的分析: https://www.youtube.com/watch?v=OM7Sa_BlDIk

包括 kv cache 都从 0 开始讲了, 很适合新手看

via Memos

#tools #adguard

● https://github.com/AdGuardTeam/AdGuardBrowserExtension

adguard 浏览器插件版用起来不错, 适合一些轻量级的广告屏蔽需求

via Memos

#mark #jd

京东 plus 会员的积分兑换服务: https://u.jd.com/Qawyudg

via Memos

#bb

腾讯云 200m 正式上线了，但是完全没有购买的欲望了。如果是半年前的我估计会热火朝天的买个三五年、然后把 v4 和 v6 的转发全用上，再挂载几个国内云盘折腾 emby。

但是现在已经累了，不买立省 100%。

按照现在云服务厂商卷的速度，谁知道三五年之后会发生什么。

via Memos

#llm #ai

感觉现在 deepseek 的程度已经可以让我不用续费 gpt、claude 和 perplexity 了，搜索和 r1 目前都做的已经很好了。

下个月计划就只留下一个 Claude 用来查漏补缺了。

via Memos

#tools

macos 一个配置「默认打开方式」很好用的命令行工具: duti

安装: brew install duti

基本使用:

1. 配置默认打开方式: duti -s com.microsoft.VSCode .json all
2. 查看某个文件的默认打开方式: duti -x yaml
3. 如果不确定包 id, 可以通过 osascript -e 'id of app "Visual Studio Code"' 查看

via Memos

2025: 我的 AI 折腾日记 (不定期更新)

AI / Chatbot 工具更新速度越来越快, 打算将 2025 年自己的 AI stack 更新在这个 Blog 下, 本文不定期更新, 主要为了好玩而记录, 同时可以和大家交流一下, 保持一点追求潮流的热情~

Changelog

2025-01-17

● 使用 obsidian 的一个 copilot AI 插件, 整体体验非常不错, 可以在上百篇笔记中比较准确的搜索出想要的问题的答案, 以及自动关联相关笔记. ● Embedding 使用 siliconflow (硅基流动) 的 BAAI/bge-m3 ● Chat 使用 deepseek-v3 API

2025-01-11

● 重新订阅 Claude Pro (20$ / 月), 并通过 fuclaude 的方式与两个朋友合租.
● 开通 oaipro 并充值了 10$, 自建了 NextChat 来使用 claude, gpt-4o, gemini 和 deepseek 的 API, 作为 claude / openai 官网不可用时的备选方案.
● 下载了 deepseek 的 ios 移动端, 体验良好

2025-01-09

● 开始使用 deepseek-v3, 在半年前使用豆包和kimi后很久没碰过国产模型了, 重新用起来感觉比以前强大了太多, 搜索和 deepthink 都很给力, 除了有些敏感问题无法询问, 没什么很大的缺点

2025-01-01

● 开始探索 cursor , 并在之后的几天用 cursor 写了 N 多个自用的小脚本和服务, 总结了一些 cursor 的用法

2024 年末

● 主力使用的 chatbot 是 gpt-4o (合租), 感觉 gpt 经常遇到故障和降智, 因此开始探索别的模型, 中间开过一个月的 Claude Pro, 体验不错, 但是不带 Search 功能比较遗憾, 并且因为价格比较贵没有继续续费.
● 在 Gemini 重磅更新后, 辅助使用 Gemini exp 1206
● 同时使用 perplexity pro 进行一些基本问题的搜索.

via Blog

#mark #ai #llm

MTEB 是一个用于评估文本嵌入(Text Embedding)模型性能的基准测试集。这个榜单展示了不同模型在文本嵌入任务上的表现。

● https://huggingface.co/spaces/mteb/leaderboard

via Memos

Untitled

via Memos

#llm #cache

关于 LLM API 的 cache hit (缓存命中)

● deepseek 的解释(比较详细): https://api-docs.deepseek.com/zh-cn/guides/kv_cache
● 一篇知乎文章: LLM Best Practice：Prompt caching

via Memos