구글 GCP에 서버 하나를 3년째 돌리고 있다. 한 달에 5000원씩 내고 있다. 앱을 하나 개발하는게 있는데 와이프랑 데이타를 주고 받아야 해서 어쩔 수 없이 서버가 필요하다. 집에 PC를 하나 돌릴 수도 있을텐데 전기료랑 GCP 돌리는 비용이랑 비슷할 것 같아서 그냥 그렇게 하고 있다. 이 앱은 사용자가 단 2명 뿐인데도 꾸준히 거의 매일 쓰고 있다. 마지막 개발은 거의 1년 전이라 개선을 하고 싶기는 한데 한 마디로 너무 귀찮다. 독푸딩단계에서는 2명의 요구수준을 거의 만족을 하고 있는데, 출시하기 위해서는 암호화나 권한 관리, 탈퇴처리, 어뷰징 방지 등의 개선과 복잡한 구현이 여러 남아 있는 상태다.
백엔드 서비스를 구현하면서 여러 실수를 많이 했다. 현재의 백엔드 상태를 보면..
User App ---> Nginx ---> Deno sever --> Mongo db
Nginx부터는 하나의 서버에서 돌아간다. Deno라는 js 런타임을 채택하면서 Nginx를 추가해야만 했다. 왜냐하면 Deno 런타임에서 사용하는 oak 라이브러리가 https와 gzip을 지원하지 않기 때문이다. 따라서 Nginx가 https와 gzip을 핸들링하고 Gateway역할을 하고 있다. 운영하면서 미묘한 문제를 몇 번 겪었는데 서버가 가끔 다운되는 현상이 있었다. 백엔드 서비스가 응답하지 않아서 VM에 SSH 접속을 시도했을 때 연결이 되지 않는 경우가 4번 정도 있었다. GCP에서 가상머신은 ACTIVE 상태인데 ssh 접속이 안 되는 경우라서 VM을 재시작하는 수 밖에는 없었다. 따라서 일단 GCP에서 AWS로 이동하려고 한다. 경험치를 늘리기위한 것도 있다. 장기 계약하면 비용이 싸지는 것도 있기 때문에 AWS의 EC2를 사용할 계획이다. (1년전에 OCP를 한 달 정도 운영서버로 사용했었는데 이상하게도 OCP에서 계정을 자르는 바람에 서버 데이타도 백업하지 못했다. 그때 app내 데이타가지고 db복구한다고 생고생했다. )
Deno를 포기해야 겠다. Nest.js 같은 좋은 프레임 워크가 없어서 진행을 어떻게 해야할 지 엄두가 안 난다. 따라서 원활히 개발 진도를 뺄려면 Node.js 런타임에 Nest.js 프레임웍을 사용하는 것이 최신이라고 생각했다.
이런 와중에 우연히 Bun을 알게됬다. 개발 트렌드를 확인할 겸 가는 사이트가 있는데 거기서 Nodejs 와 하위호환이 되는 차세대 js 런타임으로 Bun이 소개되었다. 처음에 Deno를 선택한 이유가 좀더 빠른 속도와 원활한 TypeScript 사용이었는데 Bun은 이 두 개를 충족하면서 nodejs를 그대로 돌릴 수 있다니 관심이 갔다. nestjs와의 궁합도 확인해보니 Bun 자체에서 지원이 되는 것 같았다.
bun create nest test_bun_nest
cd test_bun_nest
bun --watch ./src/main.ts
시작이 좋다. nest.js를 돌릴 수 있고, 소스 파일 저장시 서버를 자동으로 재시작해주는 --watch 옵션도 자체 지원하고 있다. 그래서 최종적인 백엔드 구성을 이렇게 해 볼려고 한다.
User app1 --> Bun server(Nest.js (support https, gzip, file logging, ...) with fastify) --> Mongo db
nestjs는 express보다 더 빠르다는 fastify로 돌리고 https와 gzip을 자체적으로 지원한다. 모든 요청과 응답 로깅을 아파치 처럼 log 파일로 저장하면서 warning이나 error 로그는 별도 log파일로 저장하고, 서버 internal error도 날짜별로 파일을 만들어서 저장한다. 그리고 Bun과 mongodb는 docker를 이용하여 실행한다. 비정상적인 요청의 차단이나, 서버 다운과 같은 것은 운영자에게 노티할 필요가 있는데 이런건 어떻게 만들어야 할지 고민이다.
Flutter를 4년만에 다시 시작한 것 치고는 별 문제없이 UX, 개발, 테스트를 동시에 진행하며 개발을 완료했다. 2주 동안 개발하는 내내 몰입하는 즐거움을 느꼈다. 개발에 특별히 엄청난 기술이 들어가지는 않았다. Realm과 Table calendar를 써 본 정도다. 선언형 UI 개발 방식이 명령형 방식보다 개발하기 더 좋은 느낌이다. 느낌이지 확실한 결론은 아니다. 개발 속도도 빠른 것 같고, 적어도 버그의 개수는 줄어들것 같다. 소스코드를 저장만 해도 동작중인 앱에 반영이 되는 것은 큰 장점이다. 그리고 역시나 네이티브를 잘 알고 있는 것이 중요한 것 같다. 플러그인 없이는 괜찮은 기능을 만들기 어렵다.
22년 6월 부터 사실상 놀고 있다. 이 블로그의 글도 거의 업데이트 하지 않고 있다. 업데이트 하지 않는다는 것은 개발도 하지 않고 있다는 뜻이다. 내가 퇴사한 이유도 근본 원인은 번아웃인데 이게 참 무섭다. 아무것도 하지 않고 몇 달을 지낸적도 있다. 나는 개발이 하고 싶어질 때 까지 계속 기다렸다. 23년도가 2달 남은 최근에서야 잠들기 전에 머리속에서 뭔가가 계속 멤돈다. 플러터를 다시 해야겠다는 생각과 몇 년간 독푸딩하고 있는 앱을 결국에는 출시를 해야한다는 생각이다. 두 가지는 확고한 결심이다.
완벽주의 성향이 있는 나로써는 뭔가가 충분히 준비되지 않으면 시작하지 못하는 문제가 있다. 안 좋은 습관이다. Flutter 공부도 시작도 전에 계속 뭔가 그럴듯한 앱을 만들 생각부터 했다. 공부도 되고 또 나와 다른 사람에게 유용한 제품도 되는 것을 찾다보니 뭘 만들지 결정하지 못하고 그래서 시작하지 못하는 것 같다. 그러다 오늘 그냥 시작했다. 계산기나 메모장, 체크리스트, 알람 앱 등을 생각하다가 결국에는 뽀모도로라는 것을 만들기로 했다. 내가 매일 쓸 것 같고, 요구사항이 간단하고, 서버가 필요없고, 글로벌로 런칭할 수 있기 때문에 이게 적당해 보인다.
오늘 3시간 동안 가칭 "내가 만든 뽀모도로"라는 앱을 만들었고 가장 최소한의 기능만 구현하여 폰에 설치하며 독푸딩해봤다. 오랜만이라 오피셜 문서 위주로 다시 들여다 봐야했다. 릴리스 모드 apk가 18메가라니.. 이건 어쩔수 없나보다.
요구사항 - 시작버튼을 누르면 25분 타이머가 시작된다. 시간은 붉은 색으로 표시된다. - 25분이 지나면 소리가 나고 5분 타이머가 시작된다. 시간표시는 검정색으로 바뀐다. - 5분이 지나면 또 다시 다른 소리가 나고, 다시 25분 타이머가 시작된다. - 타이머가 동작중에는 화면이 꺼지지 않는다. - 종료버튼을 누르면 대기 상태가 되고, 대기시간이 지나면 화면도 꺼진다. 이 요구사항이 기본 생성 코드에서 40줄 정도 추가하거나 수정하니 잘 동작했다.
wav파일 재생을 위해서 audioplayers 플러그인을 사용했고, 화면 잠기지 않도록 wakelock 플러그인을 사용했다.
이전에 구글 독스에서 언어를 관리하고 편집하고, 툴을 이용해서 xlsx를 내려받아서 안드로이드의 res/values/strings.xml 파일을 자동으로 생성하는 툴(자바 스크립트)을 개발했었다. 이렇게 하는 이유는 언어 번역과 개발 적용을 분리하기 위해서이고, 번역자는 안드로이드 고유의 포맷 문자열 처리등의 개발 지식이 없더라도 쉽게 수정할 수 있는 방법이 필요했기 때문이다. 때문에 문자열에 ' " ${str} ${num} 과 사용자 친화적인 문자열로 입력하면 되고, 툴은 최종적으로 \' \" %s %d 와 같은 문자열로 치환하여 적용한다.
이게 자바스크립트로 구현했는데 맥 미니에서 동작이 잘 안 되고 (오류를 수정할 수는 있겠지만 귀찮다. node버전과 관련이 있는듯.) 옛날에 Go 언어로 간단한 거 만든적 있고, 파이선도 해 봤지만 문법이 기억나지 않는다. 새로 뭔가를 배워야 한다면 dart 언어로 해 보면 어떨까 싶어서 새로 구현했다. Flutter도 어차피 공부해야해서 언어에 익숙해지는데 도움이 될 듯.
필요한 라이브러리 추가 xml, excel excel 최신버전은 xml 최신 버전과 충돌이 있기 때문에 xml의 버전을 5.4.1 로 다운그레이드한다.
cd lt_lang_utils
dart pub add xml
dart pub add excel
스크린 샷 사용자가 ar-strings.xml 파일을 번역해 왔는데 이 파일은 Google doc로 해당 Row에 맞게 올라가야지 나중에 관리가 된다. 따라서 일단 이것을 같은 Row에 해당 스트링을 찾아서 옆에 ar 스트링을 자동으로 입력하고 그것을 output.xlsx로 만들어서 구글 독스로 붙여넣기를 하기로 했다.
import 'dart:io';
import 'package:xml/xml.dart';
import 'package:excel/excel.dart';
// 안드로이드 strings.xml 에서 <string name="ok">OK</string> ok-> OK 의 map을 만들어 리턴한다.
Map<String, String> loadStringsXml(String filename) {
final Map<String, String> map = {};
final file = File(filename);
final document = XmlDocument.parse(file.readAsStringSync());
final resources = document.getElement('resources')!;
for (var node in resources.children) {
final key = node.getAttribute('name');
if (key?.isNotEmpty == true) {
final text = node.text;
map.putIfAbsent(key!, () => text);
}
}
return map;
}
void writeXlsxFromStringsXml() {
final Map<String, String> arStringMap = loadStringsXml('ar-strings.xml');
final outputExcel = Excel.createExcel();
final outputSheet = outputExcel['Sheet1']; // default sheet
var file = "Screenshot_touch_translation.xlsx";
var bytes = File(file).readAsBytesSync();
var excel = Excel.decodeBytes(bytes);
//Screenshot_touch_translation has below datas
//flutter: [Data([common], 0, 7, null, sheet1), null, null, null, null, null, null, null, null, null, null]
//flutter: [Data(ok, 0, 8, null, sheet1), null, null, null, Data(OK, 4, 8, null, sheet1), Data(확인, 5, 8, null, sheet1), Data(ОК, 6, 8, null, sheet1), Data(OK, 7, 8, null, sheet1), Data(TAMAM, 8, 8, null, sheet1), null, Data(Aceptar, 10, 8, null, sheet1)]
//flutter: [Data(cancel, 0, 9, null, sheet1), null, null, null, Data(Cancel, 4, 9, null, sheet1), Data(취소, 5, 9, null, sheet1), Data(Отмена, 6, 9, null, sheet1), Data(Abbrechen, 7, 9, null, sheet1), Data(Vazgeç, 8, 9, null, sheet1), null, Data(Cancelar, 10, 9, null, sheet1)]
var skipRow = true;
for (var table in excel.tables.keys) {
print(table); //sheet Name
final t = excel.tables[table]!;
print(t.maxCols);
print(t.maxRows);
for (var row in t.rows) {
final keyData = row.elementAt(0);
if (keyData == null ) continue;
final key = keyData.value.toString();
if (key == "[common]" || key == "[app]") {
skipRow = false;
continue;
}
if (skipRow) continue;
final valueData = row.elementAt(4);
if (valueData == null) continue;
final value = valueData.value.toString();
int rowIndex = keyData.rowIndex;
outputSheet.updateCell(CellIndex.indexByColumnRow(columnIndex: 0, rowIndex: rowIndex), key);
outputSheet.updateCell(CellIndex.indexByColumnRow(columnIndex: 1, rowIndex: rowIndex), value);
if (arStringMap.containsKey(key)) {
String? arValue = arStringMap[key];
outputSheet.updateCell(CellIndex.indexByColumnRow(columnIndex: 2, rowIndex: rowIndex), arValue);
} else {
// string-ar/ value not exists.
print("$key-> $value");
}
}
} //for
// save result excel
var fileBytes = outputExcel.save()!;
File("output.xlsx")
..createSync(recursive: true)
..writeAsBytesSync(fileBytes);
print("save OK");
}
두 번째 구글 독스에서 xlsx를 내려받아서 res/values-XX에 strings.xml 파일을 자동으로 만드는 코드다.
class StringItem {
String key;
String text;
StringItem({required this.key, required this.text});
}
void writeStringsFromXlsx() {
var file = "Screenshot_touch_translation.xlsx";
var bytes = File(file).readAsBytesSync();
var excel = Excel.decodeBytes(bytes);
// first table
final t = excel.tables["sheet1"]!;
print(t.maxCols);
print(t.maxRows);
const langRow = 6;
const firstLangCol = 4;
const maxLangColumn = 10; //ar
int column = firstLangCol;
while(column <= maxLangColumn) {
var data = t.cell(CellIndex.indexByColumnRow(columnIndex:column, rowIndex:langRow));
String langCode = data.value.toString();
print("langCode=$langCode");
List<StringItem> baseStringList = List.empty(growable: true);
List<StringItem> appStringList = List.empty(growable: true);
int state = 0;
for (var row in t.rows) {
final keyData = row.elementAt(0);
if (keyData == null) continue;
final key = keyData.value.toString();
if (key == "[common]") {
state = 1;
continue;
}
if (key == "[app]") {
state = 2;
continue;
}
if (key == "--end--") {
break;
}
if (state == 0) continue;
final valueData = row.elementAt(column);
if (valueData == null) continue;
final value = valueData.value.toString();
// 반드시 포함 되어야 하는 데이타 체크
final includeData = row.elementAt(3);
if (includeData != null) {
String includeStrings = includeData.value.toString();
if (includeStrings.isNotEmpty) {
for(var inc in includeStrings.split(' ')) {
if (!value.contains(inc)) {
print("ERROR: $langCode $key $inc $value");
}
}
}
}
if (state == 1) {
baseStringList.add(StringItem(key: key, text: value));
} else {
appStringList.add(StringItem(key: key, text: value));
}
}
writeStringsXml(baseStringList, appStringList, langCode);
column ++;
}
} // for
// 안드로이드 res 폴더에 strings.xml 파일을 생성합니다.
void writeStringsXml(List<StringItem> baseStringList, List<StringItem> appStringList, String langCode) {
String langCodeSuffix;
if (langCode == "en") {
langCodeSuffix = "";
}else {
langCodeSuffix = "-$langCode";
}
final appResdir = "../../screenshot/app/src/main/res/values$langCodeSuffix";
final baseResdir = "../../screenshot/android_base/res/values$langCodeSuffix";
// android_base
{
final builder = XmlBuilder();
builder.processing('xml', 'version="1.0" encoding="UTF-8"');
builder.element("resources", nest: () {
for (var element in baseStringList) {
builder.element("string", nest: () {
builder.attribute("name", element.key);
final newText = touchText(langCode, element.key, element.text);
if (element.key.endsWith("_cdata")) {
builder.cdata(newText);
} else {
builder.text(newText);
}
});
}
});
//
final document = builder.buildDocument();
String xmlString = document.toXmlString(pretty: true, indent: ' ', newLine: '\n');
String path = "$baseResdir/strings.xml";
File(path).writeAsStringSync(xmlString);
print(path);
}
// app
{
final builder = XmlBuilder();
builder.processing('xml', 'version="1.0" encoding="UTF-8"');
builder.element("resources", nest: () {
for (var element in appStringList) {
builder.element("string", nest: () {
builder.attribute("name", element.key);
final newText = touchText(langCode, element.key, element.text);
if (element.key.endsWith("_cdata")) {
builder.cdata(newText);
} else {
builder.text(newText);
}
});
}
});
//
final document = builder.buildDocument();
String newLine = langCode == "en" ? "\r\n" : "\n";
String xmlString = document.toXmlString(pretty: true, indent: ' ', newLine: newLine);
String path = "$appResdir/strings.xml";
File(path).writeAsStringSync(xmlString);
print(path);
}
}
String touchText(String langCode, String key, String text) {
Map<String, String> replaceMap = {};
replaceMap["\${num}"] = "%d";
replaceMap["\${str}"] = "%s";
replaceMap["\${num1}"] = "%1\$d";
replaceMap["\${num2}"] = "%2\$d";
replaceMap["\${num3}"] = "%3\$d";
replaceMap["\${num4}"] = "%4\$d";
replaceMap["\${str1}"] = "%1\$s";
replaceMap["\${str2}"] = "%2\$s";
replaceMap["\${str3}"] = "%3\$s";
replaceMap["\${str4}"] = "%4\$s";
replaceMap["'"] = "\\'";
replaceMap['"'] = '\\"';
if (langCode != "ar") {
replaceMap["\n"] = "\\n";
}
if (text.contains("\r\n")) {
text = text.replaceAll("\r\n", "\\n");
}
if (key.endsWith("_cdata") == false && text.contains("%")) {
text = text.replaceAll("%", "%%");
}
replaceMap.forEach((key, value) {
if (text.contains(key)) {
text = text.replaceAll(key, value);
}
});
return text;
}
실행해 보기
curl -Ls https://docs.google.com/spreadsheets/d/blabla/export\?format\=xlsx > Screenshot_touch_translation.xlsx
dart run lt_lang_utils.dart
좀 있다가 log를 보면 마지막에 초기화를 위한 접속 url을 확인할 수 있다. 그곳으로 접속한다.
[opc@instance-20221029-2034 youtrack]$ docker logs --tail 10 youtrack_youtrack_1
* JetBrains YouTrack 2022.2 runtime environment is successfully configured
* Loading logging configuration from /opt/youtrack/lib/ext/log4j.xml
* Redirecting JetBrains YouTrack 2022.2 logging to /opt/youtrack/logs/internal/services/bundleProcess
* Configuring Service-Container[bundleProcess]
* Configuring Bundle Backend Service
* Configuring Configuration Wizard
* Starting Service-Container[bundleProcess]
* Starting Bundle Backend Service
* Starting Configuration Wizard
* JetBrains YouTrack 2022.2 Configuration Wizard will listen inside container on {0.0.0.0:8080}/ after start and can be accessed by URL [http://<put-your-docker-HOST-name-here>:<put-host-port-mapped-to-container-port-8080-here>//?wizard_token=BlablaToken]
오라클 network에 80과 443은 열어두었다. youtrack은 443으로 연결되지만 프로토콜은 http 이다. 따라서 http://<YOUR_IP or DOMAIN>:443//?wizard_token=BlablaToken 으로 접속한다.
사이트는 열리고 초기화 페이지가 진행되고 YouTrack Configurator 와 Hub는 실행이 되는데 YouTrack은 실행중 오류가 난다. 이유는 모르겠다. 2022.3 버전 과 2022.2 버전 모두 에러가 나고 /mnt/djkim 폴더를 연결하지 않아도 에러가 난다.. 내부 오류 같은데.. 문제 해결 아직 못함.. 서버 로그를 봐도 나오지 않는다. 자바 기반이라 좀 무거운 것 같은데. 그래서 OOM이라도 난 건가
구글 클라우드에서 운영중인 독푸딩 서비스가 있다. 도커를 모를 때라 서버에 필요한 프로그램을 한땀한땀 스크립트를 찾아가면서 설치를 했다. 오라클 클라우드로 API 서버와 DB서버를 이전하면서 도커를 이용했다. 도커만 설치되어 있다면 서버 프로그램을 간단히 실행하고 종료시킬 수 있게 되었다.
GCP 접속하여 Mongo 백업
# ssh 접속
dajkim76@Kims-Mac-mini ~/backend/gcp % ssh -i gcp.key 34.170.xxx.yyy
Enter passphrase for key 'gcp.key':
# mongo 백업
dajkim76@base-backend-1:~$ mongodump --db prod-db --out mongo_221122
# 폴더 압축
dajkim76@base-backend-1:~$ tar cvzf mongo_221122.tar.gz mongo_221122/
dajkim76@base-backend-1:~$ ls -al mongo_221122.tar.gz
-rw-rw-r-- 1 dajkim76 dajkim76 288717 Nov 21 15:45 mongo_221122.tar.gz
압축파일 가져오기
dajkim76@Kims-Mac-mini ~/backend/gcp % sftp -i gcp.key 34.170.xxx.yyy
Enter passphrase for key 'gcp.key':
Connected to 34.170.xxx.yyy.
sftp> get mongo_221122.tar.gz
Fetching /home/dajkim76/mongo_221122.tar.gz to mongo_221122.tar.gz
/home/dajkim76/mongo_221122.tar.gz 100% 282KB 280.5KB/s 00:01
sftp> exit
압축파일 오라클 vm에 업로드
dajkim76@Kims-Mac-mini ~/backend/oci % sftp -i oracle.key opc@132.145.xxx.yyy
Enter passphrase for key 'oracle.key':
Connected to 132.145.xxx.yyy.
sftp> put mongo_221122.tar.gz
Uploading mongo_221122.tar.gz to /home/opc/mongo_221122.tar.gz
mongo_221122.tar.gz 100% 282KB 2.8MB/s 00:00
sftp> exit
압축풀기
[opc@instance-20221029-2034 ~]$ tar xvzf mongo_221122.tar.gz
mongo 도커 컨테이너에 접속하여 db 복구하기
# 컨테이너 접속
docker exec -it docker_mongo_1 bash
# Mongo 복구: 호스트의 mongo_221122 디렉토리의 상위 폴더를 volumes에 바인딩시킬것
mongorestore -u root -p example ./mongo_221122
# 몽고 쉘 접속
mongosh -u root -p example
# 프로덕션 db에 유저 생성
use prod-db
db.createUser( { user: "prod-user", pwd: "prod-pwd", roles: [ { role: "readWrite", db: "prod-db" }, ] } )
글 검색 결과 - 전체 글 (총 467개)
