日志

隧道穿透，运行模型服务

我在阿里云上的服务器只有cpu，没法跑当前的大模型，于是我想到用本地的mac mini 运行模型服务，再通过服务器转发出来。

step1: 内网穿透，将mac mini 上的端口映射到服务器上

step2: 服务器配置nginx 转发出来，需要注意的是 gradio 的api是通过websocket 进行的，因此需要在服务器上配置。

参考：

  1. https://blog.csdn.net/qq_43784821/article/details/130744163
    https://blog.csdn.net/qq_36588424/article/details/126592288

OpenAI GPT-3 Fine-tune 相关操作

官方文档

数据检查 openai tools fine_tunes.prepare_data -f <LOCAL_FILE>

查看微调任务状态 openai api fine_tunes.list

查看微调结果 openai api fine_tunes.results -i <JOB_ID>

查看可用的模型 curl https://api.openai.com/v1/models -H 'Authorization: Bearer API-KEY'

继续阅读“OpenAI GPT-3 Fine-tune 相关操作”

硕士期间的相关工作

科研工作

  1. 基于多知识源融合的级联式常识问答方法, CCIR 2021 (一作)
  2. KEPR: Knowledge Enhancement and Plausibility Ranking for Generative Commonsense QA, IJCNN 2023 (一作)
  3. UFO: Unified Facts Obtaining for Commonsense Question Answering, IJCNN 2023 (一作)
  4. 基于领域知识融合的复述识别方法研究, 中文信息学报 (一作)
  5. Winnowing Knowledge for Multi-choice Question Answering, EMNLP 2021 (三作)
  6. 常识问答研究综述，软件学报 (四作)
继续阅读“硕士期间的相关工作”