背景

20230515LLM笔记

继上次调研后，很久没更新AI相关技术了，这次一并更新。

应用

全本地部署的ai https://github.com/mudler/LocalAI

应用框架

数据索引框架 data index framework

llamaindex

https://docs.llamaindex.ai/en/stable/ https://github.com/run-llama/llama_index

https://docs.llamaindex.ai/en/stable/use_cases/agents/ Property Graph Index可以用neo4j

https://docs.llamaindex.ai/en/stable/module_guides/storing

Vector Stores：Elasticsearch、Lantern、OpenSearch、Postgres

More.....

背景

20230429 IaC之IDE，也许是下一个ChatIDE？

在2023年4月的时候从phodal的项目中知道了jupyter core是可以embedded之后，我就尝试将它embedd进了IDEA自身以获取全量IDE的自动化能力

源码：https://github.com/dev-assistant/skykoma-plugin-idea

示例：https://github.com/dev-assistant/skykoma-plugin-idea/blob/main/demo/demo.ipynb

因部分java项目的sdk总是没法正

More.....

参考https://github.com/cubiq/ComfyUI_Workflows进行的demo实验，部分内容可能会过时，但只是为了玩下所以无所谓

第一个demo

• 加载了v1-5-pruned-emaonly
• 设置潜在空间大小
• CLIP（Contrastive Language-Image Pre-Training）对prompt做encode
• 采样过程KSampler：
  • 种子Seed: 数字随机数，不同的种子 = 不同的图
  • 步数Steps: 到达最终图片的步数，更多

More.....

安装本体

秋叶整合包

• https://www.bilibili.com/video/BV1Ew411776J

• https://dotnet.microsoft.com/zh-cn/download/dotnet/6.0

• https://pan.quark.cn/s/64b808baa960

• https://pan.baidu.com/s/19aektdzDcnkLdQhEtDJTJA

  • 提取码: aaki
  • 解压密码：bilibili-秋葉aaaki

github原版

首页 https://github.com/comfyanonymous/ComfyUI

本质上是个python web应用，所以python web的套路这里都可以用

下载 https://github.com/comfyanonymous/ComfyUI/releases/latest/download/ComfyUI_windows_portable_nvidia.7z

手动换源

More.....

介绍

有完整独立内核的容器，可部署到物理机 支持ISO, raw or qcow2 https://containers.github.io/bootc/intro.html

https://docs.fedoraproject.org/en-US/bootc/getting-started

镜像准备

More.....

安装minikube

More.....