BookParser.js 24 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394395396397398399400401402403404405406407408409410411412413414415416417418419420421422423424425426427428429430431432433434435436437438439440441442443444445446447448449450451452453454455456457458459460461462463464465466467468469470471472473474475476477478479480481482483484485486487488489490491492493494495496497498499500501502503504505506507508509510511512513514515516517518519520521522523524525526527528529530531532533534535536537538539540541542543544545546547548549550551552553554555556557558559560561562563564565566567568569570571572573574575576577578579580581582583584585586587588589590591592593594595596597598599600601602603604605606607608609610611612613614615616617618619620621622623624625626627628629630631632633634635636637638639640641642643644645646647648649650651652653654655656657658659660661662663664665666667668669670671672673674675676677678679680681682683684685686687688689690691692693694695696697698699700701702703704705706707708709710711712713714715716717
  1. import he from 'he';
  2. import sax from '../../../../server/core/BookConverter/sax';
  3. import {sleep} from '../../../share/utils';
  4. export default class BookParser {
  5. constructor() {
  6. // defaults
  7. this.p = 30;// px, отступ параграфа
  8. this.w = 300;// px, ширина страницы
  9. this.wordWrap = false;// перенос по слогам
  10. //заглушка
  11. this.measureText = (text, style) => {// eslint-disable-line no-unused-vars
  12. return text.length*20;
  13. };
  14. }
  15. async parse(data, callback) {
  16. if (!callback)
  17. callback = () => {};
  18. callback(0);
  19. if (data.indexOf('<FictionBook') < 0) {
  20. throw new Error('Неверный формат файла');
  21. }
  22. //defaults
  23. let fb2 = {
  24. firstName: '',
  25. middleName: '',
  26. lastName: '',
  27. bookTitle: '',
  28. };
  29. let path = '';
  30. let tag = '';
  31. let center = false;
  32. let bold = false;
  33. let italic = false;
  34. this.binary = {};
  35. let binaryId = '';
  36. let binaryType = '';
  37. let dimPromises = [];
  38. let paraIndex = -1;
  39. let paraOffset = 0;
  40. let para = []; /*array of
  41. {
  42. index: Number,
  43. offset: Number, //сумма всех length до этого параграфа
  44. length: Number, //длина text без тегов
  45. text: String, //текст параграфа с вложенными тегами
  46. cut: Boolean, //параграф - кандидат на сокрытие (cutEmptyParagraphs)
  47. addIndex: Number, //индекс добавляемого пустого параграфа (addEmptyParagraphs)
  48. }
  49. */
  50. const getImageDimensions = (binaryId, binaryType, data) => {
  51. return new Promise (async(resolve, reject) => {
  52. const i = new Image();
  53. let resolved = false;
  54. i.onload = () => {
  55. resolved = true;
  56. this.binary[binaryId] = {
  57. w: i.width,
  58. h: i.height,
  59. type: binaryType,
  60. data
  61. };
  62. resolve();
  63. };
  64. i.src = `data:${binaryType};base64,${data}`;
  65. await sleep(30*1000);
  66. if (!resolved)
  67. reject('Не удалось получить размер изображения');
  68. });
  69. };
  70. const newParagraph = (text, len, addIndex) => {
  71. paraIndex++;
  72. let p = {
  73. index: paraIndex,
  74. offset: paraOffset,
  75. length: len,
  76. text: text,
  77. cut: (!addIndex && (len == 1 && text[0] == ' ')),
  78. addIndex: (addIndex ? addIndex : 0),
  79. };
  80. para[paraIndex] = p;
  81. paraOffset += p.length;
  82. };
  83. const growParagraph = (text, len) => {
  84. if (paraIndex < 0) {
  85. newParagraph(' ', 1);
  86. growParagraph(text, len);
  87. return;
  88. }
  89. let p = para[paraIndex];
  90. //добавление пустых (addEmptyParagraphs) параграфов
  91. if (p.length == 1 && p.text[0] == ' ' && len > 0) {
  92. paraIndex--;
  93. paraOffset -= p.length;
  94. for (let i = 0; i < 2; i++) {
  95. newParagraph(' ', 1, i + 1);
  96. }
  97. paraIndex++;
  98. p.index = paraIndex;
  99. p.offset = paraOffset;
  100. para[paraIndex] = p;
  101. paraOffset += p.length;
  102. }
  103. paraOffset -= p.length;
  104. //параграф оказался непустой
  105. if (p.length == 1 && p.text[0] == ' ' && len > 0) {
  106. p.length = 0;
  107. p.text = p.text.substr(1);
  108. p.cut = (len == 1 && text[0] == ' ');
  109. }
  110. p.length += len;
  111. p.text += text;
  112. para[paraIndex] = p;
  113. paraOffset += p.length;
  114. };
  115. const onStartNode = (elemName, tail) => {// eslint-disable-line no-unused-vars
  116. if (elemName == '?xml')
  117. return;
  118. tag = elemName;
  119. path += '/' + elemName;
  120. if (tag == 'binary') {
  121. let attrs = sax.getAttrsSync(tail);
  122. binaryType = (attrs['content-type'].value ? attrs['content-type'].value : '');
  123. if (binaryType == 'image/jpeg' || binaryType == 'image/png')
  124. binaryId = (attrs.id.value ? attrs.id.value : '');
  125. }
  126. if (path.indexOf('/fictionbook/body') == 0) {
  127. if (tag == 'title') {
  128. newParagraph(' ', 1);
  129. bold = true;
  130. center = true;
  131. }
  132. if (tag == 'emphasis' || tag == 'strong') {
  133. growParagraph(`<${tag}>`, 0);
  134. }
  135. if ((tag == 'p' || tag == 'empty-line' || tag == 'v')) {
  136. newParagraph(' ', 1);
  137. }
  138. if (tag == 'subtitle') {
  139. newParagraph(' ', 1);
  140. bold = true;
  141. }
  142. if (tag == 'epigraph') {
  143. italic = true;
  144. }
  145. if (tag == 'poem') {
  146. newParagraph(' ', 1);
  147. }
  148. if (tag == 'text-author') {
  149. newParagraph(' <s> <s> <s> ', 4);
  150. }
  151. }
  152. };
  153. const onEndNode = (elemName) => {// eslint-disable-line no-unused-vars
  154. if (tag == elemName) {
  155. if (tag == 'binary') {
  156. binaryId = '';
  157. }
  158. if (path.indexOf('/fictionbook/body') == 0) {
  159. if (tag == 'title') {
  160. bold = false;
  161. center = false;
  162. }
  163. if (tag == 'emphasis' || tag == 'strong') {
  164. growParagraph(`</${tag}>`, 0);
  165. }
  166. if (tag == 'subtitle') {
  167. bold = false;
  168. }
  169. if (tag == 'epigraph') {
  170. italic = false;
  171. }
  172. if (tag == 'stanza') {
  173. newParagraph(' ', 1);
  174. }
  175. }
  176. path = path.substr(0, path.length - tag.length - 1);
  177. let i = path.lastIndexOf('/');
  178. if (i >= 0) {
  179. tag = path.substr(i + 1);
  180. } else {
  181. tag = path;
  182. }
  183. }
  184. };
  185. const onTextNode = (text) => {// eslint-disable-line no-unused-vars
  186. text = he.decode(text);
  187. text = text.replace(/>/g, '&gt;');
  188. text = text.replace(/</g, '&lt;');
  189. if (text != ' ' && text.trim() == '')
  190. text = text.trim();
  191. if (text == '')
  192. return;
  193. text = text.replace(/[\t\n\r]/g, ' ');
  194. switch (path) {
  195. case '/fictionbook/description/title-info/author/first-name':
  196. fb2.firstName = text;
  197. break;
  198. case '/fictionbook/description/title-info/author/middle-name':
  199. fb2.middleName = text;
  200. break;
  201. case '/fictionbook/description/title-info/author/last-name':
  202. fb2.lastName = text;
  203. break;
  204. case '/fictionbook/description/title-info/genre':
  205. fb2.genre = text;
  206. break;
  207. case '/fictionbook/description/title-info/date':
  208. fb2.date = text;
  209. break;
  210. case '/fictionbook/description/title-info/book-title':
  211. fb2.bookTitle = text;
  212. break;
  213. case '/fictionbook/description/title-info/id':
  214. fb2.id = text;
  215. break;
  216. }
  217. if (path.indexOf('/fictionbook/description/title-info/annotation') == 0) {
  218. if (!fb2.annotation)
  219. fb2.annotation = '';
  220. if (tag != 'annotation')
  221. fb2.annotation += `<${tag}>${text}</${tag}>`;
  222. else
  223. fb2.annotation += text;
  224. }
  225. let tOpen = (center ? '<center>' : '');
  226. tOpen += (bold ? '<strong>' : '');
  227. tOpen += (italic ? '<emphasis>' : '');
  228. let tClose = (italic ? '</emphasis>' : '');
  229. tClose += (bold ? '</strong>' : '');
  230. tClose += (center ? '</center>' : '');
  231. if (path.indexOf('/fictionbook/body/title') == 0) {
  232. growParagraph(`${tOpen}${text}${tClose}`, text.length);
  233. }
  234. if (path.indexOf('/fictionbook/body/section') == 0) {
  235. switch (tag) {
  236. case 'p':
  237. growParagraph(`${tOpen}${text}${tClose}`, text.length);
  238. break;
  239. default:
  240. growParagraph(`${tOpen}${text}${tClose}`, text.length);
  241. }
  242. }
  243. if (binaryId) {
  244. dimPromises.push(getImageDimensions(binaryId, binaryType, text));
  245. }
  246. };
  247. const onProgress = async(prog) => {
  248. await sleep(1);
  249. callback(prog);
  250. };
  251. await sax.parse(data, {
  252. onStartNode, onEndNode, onTextNode, onProgress
  253. });
  254. if (dimPromises.length) {
  255. try {
  256. await Promise.all(dimPromises);
  257. } catch (e) {
  258. }
  259. }
  260. this.fb2 = fb2;
  261. this.para = para;
  262. this.textLength = paraOffset;
  263. callback(100);
  264. await sleep(10);
  265. return {fb2};
  266. }
  267. findParaIndex(bookPos) {
  268. let result = undefined;
  269. //дихотомия
  270. let first = 0;
  271. let last = this.para.length - 1;
  272. while (first < last) {
  273. let mid = first + Math.floor((last - first)/2);
  274. if (bookPos <= this.para[mid].offset + this.para[mid].length - 1)
  275. last = mid;
  276. else
  277. first = mid + 1;
  278. }
  279. if (last >= 0) {
  280. const ofs = this.para[last].offset;
  281. if (bookPos >= ofs && bookPos < ofs + this.para[last].length)
  282. result = last;
  283. }
  284. return result;
  285. }
  286. splitToStyle(s) {
  287. let result = [];/*array of {
  288. style: {bold: Boolean, italic: Boolean, center: Boolean},
  289. text: String,
  290. }*/
  291. let style = {};
  292. const onTextNode = async(text) => {// eslint-disable-line no-unused-vars
  293. result.push({
  294. style: Object.assign({}, style),
  295. text: text
  296. });
  297. };
  298. const onStartNode = async(elemName) => {// eslint-disable-line no-unused-vars
  299. switch (elemName) {
  300. case 'strong':
  301. style.bold = true;
  302. break;
  303. case 'emphasis':
  304. style.italic = true;
  305. break;
  306. case 'center':
  307. style.center = true;
  308. break;
  309. }
  310. };
  311. const onEndNode = async(elemName) => {// eslint-disable-line no-unused-vars
  312. switch (elemName) {
  313. case 'strong':
  314. style.bold = false;
  315. break;
  316. case 'emphasis':
  317. style.italic = false;
  318. break;
  319. case 'center':
  320. style.center = false;
  321. break;
  322. }
  323. };
  324. sax.parseSync(s, {
  325. onStartNode, onEndNode, onTextNode
  326. });
  327. //длинные слова (или белиберду без пробелов) тоже разобьем
  328. const maxWordLength = this.maxWordLength;
  329. const parts = result;
  330. result = [];
  331. for (const part of parts) {
  332. let p = part;
  333. let i = 0;
  334. let spaceIndex = -1;
  335. while (i < p.text.length) {
  336. if (p.text[i] == ' ')
  337. spaceIndex = i;
  338. if (i - spaceIndex >= maxWordLength && i < p.text.length - 1 &&
  339. this.measureText(p.text.substr(spaceIndex + 1, i - spaceIndex), p.style) >= this.w - this.p) {
  340. result.push({style: p.style, text: p.text.substr(0, i + 1)});
  341. p = {style: p.style, text: p.text.substr(i + 1)};
  342. spaceIndex = -1;
  343. i = -1;
  344. }
  345. i++;
  346. }
  347. result.push(p);
  348. }
  349. return result;
  350. }
  351. splitToSlogi(word) {
  352. let result = [];
  353. const glas = new Set(['а', 'А', 'о', 'О', 'и', 'И', 'е', 'Е', 'ё', 'Ё', 'э', 'Э', 'ы', 'Ы', 'у', 'У', 'ю', 'Ю', 'я', 'Я']);
  354. const soglas = new Set([
  355. 'б', 'в', 'г', 'д', 'ж', 'з', 'й', 'к', 'л', 'м', 'н', 'п', 'р', 'с', 'т', 'ф', 'х', 'ц', 'ч', 'ш', 'щ',
  356. 'Б', 'В', 'Г', 'Д', 'Ж', 'З', 'Й', 'К', 'Л', 'М', 'Н', 'П', 'Р', 'С', 'Т', 'Ф', 'Х', 'Ч', 'Ц', 'Ш', 'Щ'
  357. ]);
  358. const znak = new Set(['ь', 'Ь', 'ъ', 'Ъ', 'й', 'Й']);
  359. const alpha = new Set([...glas, ...soglas, ...znak]);
  360. let slog = '';
  361. let slogLen = 0;
  362. const len = word.length;
  363. word += ' ';
  364. for (let i = 0; i < len; i++) {
  365. slog += word[i];
  366. if (alpha.has(word[i]))
  367. slogLen++;
  368. if (slogLen > 1 && i < len - 2 && (
  369. //гласная, а следом не 2 согласные буквы
  370. (glas.has(word[i]) && !(soglas.has(word[i + 1]) &&
  371. soglas.has(word[i + 2])) && alpha.has(word[i + 1]) && alpha.has(word[i + 2])
  372. ) ||
  373. //предыдущая не согласная буква, текущая согласная, а следом согласная и согласная|гласная буквы
  374. (alpha.has(word[i - 1]) && !soglas.has(word[i - 1]) &&
  375. soglas.has(word[i]) && soglas.has(word[i + 1]) &&
  376. (glas.has(word[i + 2]) || soglas.has(word[i + 2])) &&
  377. alpha.has(word[i + 1]) && alpha.has(word[i + 2])
  378. ) ||
  379. //мягкий или твердый знак или Й
  380. (znak.has(word[i]) && alpha.has(word[i + 1]) && alpha.has(word[i + 2])) ||
  381. (word[i] == '-')
  382. ) &&
  383. //нельзя оставлять окончания на ь, ъ, й
  384. !(znak.has(word[i + 2]) && !alpha.has(word[i + 3]))
  385. ) {
  386. result.push(slog);
  387. slog = '';
  388. slogLen = 0;
  389. }
  390. }
  391. if (slog)
  392. result.push(slog);
  393. return result;
  394. }
  395. parsePara(paraIndex) {
  396. const para = this.para[paraIndex];
  397. if (!this.force &&
  398. para.parsed &&
  399. para.parsed.w === this.w &&
  400. para.parsed.p === this.p &&
  401. para.parsed.wordWrap === this.wordWrap &&
  402. para.parsed.maxWordLength === this.maxWordLength &&
  403. para.parsed.font === this.font &&
  404. para.parsed.cutEmptyParagraphs === this.cutEmptyParagraphs &&
  405. para.parsed.addEmptyParagraphs === this.addEmptyParagraphs
  406. )
  407. return para.parsed;
  408. const parsed = {
  409. w: this.w,
  410. p: this.p,
  411. wordWrap: this.wordWrap,
  412. maxWordLength: this.maxWordLength,
  413. font: this.font,
  414. cutEmptyParagraphs: this.cutEmptyParagraphs,
  415. addEmptyParagraphs: this.addEmptyParagraphs,
  416. visible: !(
  417. (this.cutEmptyParagraphs && para.cut) ||
  418. (para.addIndex > this.addEmptyParagraphs)
  419. )
  420. };
  421. const lines = []; /* array of
  422. {
  423. begin: Number,
  424. end: Number,
  425. first: Boolean,
  426. last: Boolean,
  427. parts: array of {
  428. style: {bold: Boolean, italic: Boolean, center: Boolean},
  429. text: String,
  430. }
  431. }*/
  432. let parts = this.splitToStyle(para.text);
  433. let line = {begin: para.offset, parts: []};
  434. let partText = '';//накапливаемый кусок со стилем
  435. let str = '';//измеряемая строка
  436. let prevStr = '';//строка без крайнего слова
  437. let prevW = 0;
  438. let j = 0;//номер строки
  439. let style = {};
  440. let ofs = 0;//смещение от начала параграфа para.offset
  441. // тут начинается самый замес, перенос по слогам и стилизация
  442. for (const part of parts) {
  443. const words = part.text.split(' ');
  444. style = part.style;
  445. let sp1 = '';
  446. let sp2 = '';
  447. for (let i = 0; i < words.length; i++) {
  448. const word = words[i];
  449. ofs += word.length + (i < words.length - 1 ? 1 : 0);
  450. if (word == '' && i > 0 && i < words.length - 1)
  451. continue;
  452. str += sp1 + word;
  453. let p = (j == 0 ? parsed.p : 0);
  454. let w = this.measureText(str, style) + p;
  455. let wordTail = word;
  456. if (w > parsed.w && prevStr != '') {
  457. if (parsed.wordWrap) {//по слогам
  458. let slogi = this.splitToSlogi(word);
  459. if (slogi.length > 1) {
  460. let s = prevStr + sp1;
  461. let ss = sp1;
  462. let pw;
  463. const slogiLen = slogi.length;
  464. for (let k = 0; k < slogiLen - 1; k++) {
  465. let slog = slogi[0];
  466. let ww = this.measureText(s + slog + (slog[slog.length - 1] == '-' ? '' : '-'), style) + p;
  467. if (ww <= parsed.w) {
  468. s += slog;
  469. ss += slog;
  470. } else
  471. break;
  472. pw = ww;
  473. slogi.shift();
  474. }
  475. if (pw) {
  476. prevW = pw;
  477. partText += ss + (ss[ss.length - 1] == '-' ? '' : '-');
  478. wordTail = slogi.join('');
  479. }
  480. }
  481. }
  482. if (partText != '')
  483. line.parts.push({style, text: partText});
  484. if (line.parts.length) {//корявенько, коррекция при переносе, отрефакторить не вышло
  485. let t = line.parts[line.parts.length - 1].text;
  486. if (t[t.length - 1] == ' ') {
  487. line.parts[line.parts.length - 1].text = t.trimRight();
  488. prevW -= this.measureText(' ', style);
  489. }
  490. }
  491. line.end = para.offset + ofs - wordTail.length - 1 - (i < words.length - 1 ? 1 : 0);
  492. if (line.end - line.begin < 0)
  493. console.error(`Parse error, empty line in paragraph ${paraIndex}`);
  494. line.width = prevW;
  495. line.first = (j == 0);
  496. line.last = false;
  497. lines.push(line);
  498. line = {begin: line.end + 1, parts: []};
  499. partText = '';
  500. sp2 = '';
  501. str = wordTail;
  502. j++;
  503. }
  504. prevStr = str;
  505. partText += sp2 + wordTail;
  506. sp1 = ' ';
  507. sp2 = ' ';
  508. prevW = w;
  509. }
  510. if (partText != '')
  511. line.parts.push({style, text: partText});
  512. partText = '';
  513. }
  514. if (line.parts.length) {//корявенько, коррекция при переносе
  515. let t = line.parts[line.parts.length - 1].text;
  516. if (t[t.length - 1] == ' ') {
  517. line.parts[line.parts.length - 1].text = t.trimRight();
  518. prevW -= this.measureText(' ', style);
  519. }
  520. line.end = para.offset + para.length - 1;
  521. if (line.end - line.begin < 0)
  522. console.error(`Parse error, empty line in paragraph ${paraIndex}`);
  523. line.width = prevW;
  524. line.first = (j == 0);
  525. line.last = true;
  526. lines.push(line);
  527. } else {//подстраховка
  528. if (lines.length) {
  529. line = lines[lines.length - 1];
  530. const end = para.offset + para.length - 1;
  531. if (line.end != end)
  532. console.error(`Parse error, wrong end in paragraph ${paraIndex}`);
  533. line.end = end;
  534. }
  535. }
  536. parsed.lines = lines;
  537. para.parsed = parsed;
  538. return parsed;
  539. }
  540. findLineIndex(bookPos, lines) {
  541. let result = undefined;
  542. //дихотомия
  543. let first = 0;
  544. let last = lines.length - 1;
  545. while (first < last) {
  546. let mid = first + Math.floor((last - first)/2);
  547. if (bookPos <= lines[mid].end)
  548. last = mid;
  549. else
  550. first = mid + 1;
  551. }
  552. if (last >= 0) {
  553. if (bookPos >= lines[last].begin && bookPos <= lines[last].end)
  554. result = last;
  555. }
  556. return result;
  557. }
  558. getLines(bookPos, n) {
  559. let result = [];
  560. let paraIndex = this.findParaIndex(bookPos);
  561. if (paraIndex === undefined)
  562. return null;
  563. if (n > 0) {
  564. let parsed = this.parsePara(paraIndex);
  565. let i = this.findLineIndex(bookPos, parsed.lines);
  566. if (i === undefined)
  567. return null;
  568. while (n > 0) {
  569. if (parsed.visible) {
  570. result.push(parsed.lines[i]);
  571. n--;
  572. }
  573. i++;
  574. if (i >= parsed.lines.length) {
  575. paraIndex++;
  576. if (paraIndex < this.para.length)
  577. parsed = this.parsePara(paraIndex);
  578. else
  579. break;
  580. i = 0;
  581. }
  582. }
  583. } else if (n < 0) {
  584. n = -n;
  585. let parsed = this.parsePara(paraIndex);
  586. let i = this.findLineIndex(bookPos, parsed.lines);
  587. if (i === undefined)
  588. return null;
  589. while (n > 0) {
  590. if (parsed.visible) {
  591. result.push(parsed.lines[i]);
  592. n--;
  593. }
  594. i--;
  595. if (i < 0) {
  596. paraIndex--;
  597. if (paraIndex >= 0)
  598. parsed = this.parsePara(paraIndex);
  599. else
  600. break;
  601. i = parsed.lines.length - 1;
  602. }
  603. }
  604. }
  605. if (!result.length)
  606. result = null;
  607. return result;
  608. }
  609. }