본문 바로가기

전체 글

(140)
프로젝트 소스코드 옮기기 1. 가상환경 패키지 목록 추출# pip(venv) 사용하는 경우pip freeze > requirements.txt# conda 사용하는 경우conda env export > environment.yml 2. 소스코드 및 데이터 가져오기아래 명령어로 파일 복사rsync -avzP {user_name}@{prev_server_ip}:/{prev_absolute_path} ./{current_absolute_path} 3. 현재 서버에서 새 가상환경 구축3-1. pip(venv) 버전 사용하는 경우# 1. 가상환경 생성 및 활성화python3 -m venv myenvsource myenv/bin/activate# 2. 가져온 requirements.txt 파일로 패키지 한 번에 설치pip install -..
TPC-DS 워크로드 분석 Step 1: PostgreSQL 시작 & 실행 확인# ① DB 디렉토리 초기화 (최초 1회만 필요)export PATH=/home/seulgit02/miniconda3/envs/rbot310/bin:$PATHinitdb -D ~/pgdata14 -E UTF8 --locale=C# ② PostgreSQL 시작pg_ctl -D ~/pgdata14 -l ~/pgdata14/server.log start# ③ 정상 동작 확인pg_isready -h localhost Step 2: TPC-DS 툴킷 설치# GitHub에서 PostgreSQL 호환 TPC-DS 툴킷 클론git clone https://github.com/gregrahn/tpcds-kit.git ~/tpcds-kitcd ~/tpcds-kit/too..
[Linux] Root 권한 없이 Ollama 설치하기 bash install.sh아래 블로그 글을 참고하였음.최신 업데이트 되어 install.sh 파일을 추가 수정해야 하는 부분이 있어 해당 부분에 대해 작성하겠음. Anaconda 가상환경에서 권한없이 Ollama 설치하는 방법gpu서버의 jupyter환경에서 sudo 권한으로 설피하는 install 스크립트를 수정하여 권한 없이 설치하는 방법velog.io 1. Ollama를 설치해서 사용할 Anaconda 가상환경을 생성 및 활성화한다.# conda env 생성conda create -n python=# 가상환경 활성화conda activate 2. Ollama 설치파일 install.sh를 다운로드한다.이 때 Ollama 공식 홈페이지의 linux 설치 명령어를 쓰면(sh는 권한이 없으면 사용..
NotebookLM Wiki Pipeline 사용하기 NotebookLM Wiki Pipeline이 무엇일까?Drive에 있는 대용량 PDF를 Claude Code 컨텍스트에 직접 넣지 않고, NotebookLM이 먼저 읽게 한 뒤 결과만 받아 Obsidian Wiki 노트로 정리하는 토큰 절감 파이프라인이다. LLM을 사용할 때는 context 관리와 토큰 비용이 중요하다. 한정된 컨텍스트를 적절히 관리해서 낭비되는 토큰이 없게 모델을 잘 사용하는 것이 모델 성능을 끌어올리는 데 아주 중요하다. 예를 들어 100p짜리 PDF를 Drive MCP로 직접 읽으면 수만 토큰이 Claude 컨텍스트를 지나간다. 반면 NotebookLM Wiki Pipeline을 거치면, Claude Code가 PDF 전문을 직접 읽지 않고, NotebookLM이 내부에서 처리한..
(Baseline) LearnedRewrite 실행 환경 구축 보호되어 있는 글입니다.
DW(Data Warehouse) 관련 기본 지식 및 TPC-DS Benchmark 정리 Data Warehouse vs Data Mart vs Data Lake DW(Data Warehouse)는 축적된 데이터를 공통의 형식으로 변환해서 관리하는 데이터베이스이다.장기 저장용으로 대량의 데이터가 축적되어있기 때문에, 데이터 분석 등의 목적으로 접근하는 경우 쿼리 부하가 커질 수 있어 부적합하다. 이런 문제때문에 필요한 게 DM(Data Mart)이다.데이터 분석용으로 필요한 데이터만 추출해서 만든 데이터베이스로, 대량의 데이터가 있는 DW에서 필요한 데이터를 배치해서 가져온다. 데이터 분석 목적으로 주로 사용된다. DL(Data Lake)의 경우, 모든 데이터를 원래의 형태로 축적해두고, 나중에 그것을 필요에 따라 가공하는 구조다.임의의 데이터를 저장할 수 있는 분산 스토리지로, 그것만으로..
PostgreSQL commands & TPCH, Calcite benchmark settings postgresql 접속 멍령어psql -U {user_name} -d {database_name} -h {host_name} -p {port_number} \l: 현재 서버에 있는 모든 데이터베이스 목록을 조회한다.\c database_name: 지정한 데이터베이스로 접속한다.\d: 현재 데이터베이스에 있는 모든 테이블, 뷰, 시퀀스, 인덱스 등의 목록을 조회한다.\dt: 현재 데이터베이스에 있는 모든 테이블의 목록을 조회한다.\dv: 현재 데이터베이스에 있는 모든 뷰의 목록을 조회한다.\di: 현재 데이터베이스에 있는 모든 인덱스의 목록을 조회한다.\q: psql 클라이언트를 종료하고 터미널로 빠져나간다.psql에는 이 외에도 다양한 명령어와 옵션이 있으며, psql --help 명령을 실행하면 자세..
ChromaDB 보호되어 있는 글입니다.