From mboxrd@z Thu Jan 1 00:00:00 1970 Return-Path: Received: from [87.239.111.99] (localhost [127.0.0.1]) by dev.tarantool.org (Postfix) with ESMTP id 1B7776EC55; Tue, 7 Sep 2021 12:28:28 +0300 (MSK) DKIM-Filter: OpenDKIM Filter v2.11.0 dev.tarantool.org 1B7776EC55 DKIM-Signature: v=1; a=rsa-sha256; c=relaxed/simple; d=tarantool.org; s=dev; t=1631006908; bh=69CiIwU4plKbuFzbO/Lw7pOY25yrBpB/UzuESaL1IeA=; h=To:Cc:References:Date:In-Reply-To:Subject:List-Id: List-Unsubscribe:List-Archive:List-Post:List-Help:List-Subscribe: From:Reply-To:From; b=jbseS9QnOx7wCbJLTe/xjrCI20c/zf09kTUBL6g9cvN9ABCQqAFNkZmjGm/3RgsHD eio/E72Vz3Oag3EgJRzvzs0vPFRi2BMs25lE+6aq8gh5KELHCl0gOLC+u9Jzpyexhw 8s28O5uyRvTzjfkkAVWuy5gaEImmquleh13coZgw= Received: from smtp16.mail.ru (smtp16.mail.ru [94.100.176.153]) (using TLSv1.2 with cipher ECDHE-RSA-AES256-GCM-SHA384 (256/256 bits)) (No client certificate requested) by dev.tarantool.org (Postfix) with ESMTPS id 5D8036EC55 for ; Tue, 7 Sep 2021 12:28:26 +0300 (MSK) DKIM-Filter: OpenDKIM Filter v2.11.0 dev.tarantool.org 5D8036EC55 Received: by smtp16.mail.ru with esmtpa (envelope-from ) id 1mNXOz-0004PG-FB; Tue, 07 Sep 2021 12:28:26 +0300 To: Mergen Imeev Cc: tarantool-patches@dev.tarantool.org References: <6229320676324201d74e78ac1f2832b79fd159cb.1630303937.git.imeevma@gmail.com> <017301d79ea0$eba3de60$c2eb9b20$@tarantool.org> <20210901085235.GA112149@tarantool.org> Message-ID: <7b0d7a1f-b307-dacd-1f35-200c043e6181@tarantool.org> Date: Tue, 7 Sep 2021 12:28:23 +0300 User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:78.0) Gecko/20100101 Thunderbird/78.13.0 MIME-Version: 1.0 In-Reply-To: <20210901085235.GA112149@tarantool.org> Content-Type: text/plain; charset=utf-8; format=flowed Content-Language: en-US Content-Transfer-Encoding: 8bit X-7564579A: 646B95376F6C166E X-77F55803: 4F1203BC0FB41BD9D96C1EA41D18F4D5B144C25AA2C86F19FE5C2012F6F3B614182A05F538085040BF694AA5894D3DE6D2143CEF4ECB4C9DBEBB5F0CCD917A84F405C07F6F4CA01C X-7FA49CB5: FF5795518A3D127A4AD6D5ED66289B5278DA827A17800CE71304DF0D0D806977EA1F7E6F0F101C67BD4B6F7A4D31EC0BCC500DACC3FED6E28638F802B75D45FF8AA50765F7900637911538129B0A8D078638F802B75D45FF36EB9D2243A4F8B5A6FCA7DBDB1FC311F39EFFDF887939037866D6147AF826D864C674D2388065ED82D898B20F1BEB40117882F4460429724CE54428C33FAD305F5C1EE8F4F765FCECADA55FE5B58BB7A471835C12D1D9774AD6D5ED66289B52BA9C0B312567BB23117882F446042972877693876707352026055571C92BF10FF04B652EEC242312D2E47CDBA5A96583BA9C0B312567BB2376E601842F6C81A19E625A9149C048EE0AC5B80A05675ACDEA93887B71B66F2BD8FC6C240DEA7642DBF02ECDB25306B2B78CF848AE20165D0A6AB1C7CE11FEE3A7DFDF579AB090EF2D242C3BD2E3F4C6C4224003CC836476EA7A3FFF5B025636E2021AF6380DFAD1A18204E546F3947CB11811A4A51E3B096D1867E19FE1407959CC434672EE6371089D37D7C0E48F6C8AA50765F7900637B8F435DEDE9E76EBEFF80C71ABB335746BA297DBC24807EABDAD6C7F3747799A X-B7AD71C0: AC4F5C86D027EB782CDD5689AFBDA7A213B5FB47DCBC3458834459D11680B5056021B7E7F5CADD8A83DF990B55526AB3 X-C1DE0DAB: 0D63561A33F958A560C9C16F03220C0C9967EEA791C783243D175E29DAB080A8D59269BC5F550898D99A6476B3ADF6B47008B74DF8BB9EF7333BD3B22AA88B938A852937E12ACA752546FE575EB473F1410CA545F18667F91A7EA1CDA0B5A7A0 X-C8649E89: 4E36BF7865823D7055A7F0CF078B5EC49A30900B95165D34B9F55CA4D2956E30AAD47F5257DDE1FC248E7C85ED2AE32228F09F3548C11A565AA61B07F0C1DFBF1D7E09C32AA3244C23D3F6FBB4E82931131C98BB618BD9F8795D98D676DD64D0729B2BEF169E0186 X-D57D3AED: 3ZO7eAau8CL7WIMRKs4sN3D3tLDjz0dLbV79QFUyzQ2Ujvy7cMT6pYYqY16iZVKkSc3dCLJ7zSJH7+u4VD18S7Vl4ZUrpaVfd2+vE6kuoey4m4VkSEu530nj6fImhcD4MUrOEAnl0W826KZ9Q+tr5ycPtXkTV4k65bRjmOUUP8cvGozZ33TWg5HZplvhhXbhDGzqmQDTd6OAevLeAnq3Ra9uf7zvY2zzsIhlcp/Y7m53TZgf2aB4JOg4gkr2biojSvkey75OmIr3sCuWY88pbA== X-Mailru-Sender: B5B6A6EBBD94DAD88DB6503241069F25299B9E559C0A1F1F556DCA4C6C8A786A60A481BEF91F30715C2808D6142752370A8ED71B308007E3DC85537438B7E1A423D748DE48713E689437F6177E88F7363CDA0F3B3F5B9367 X-Mras: Ok Subject: Re: [Tarantool-patches] [PATCH v1 1/1] sql: fix comparison between DECIMAL and big DOUBLE X-BeenThere: tarantool-patches@dev.tarantool.org X-Mailman-Version: 2.1.34 Precedence: list List-Id: Tarantool development patches List-Unsubscribe: , List-Archive: List-Post: List-Help: List-Subscribe: , From: Safin Timur via Tarantool-patches Reply-To: Safin Timur Errors-To: tarantool-patches-bounces@dev.tarantool.org Sender: "Tarantool-patches" On 01.09.2021 11:52, Mergen Imeev wrote: > Thank you for the review! My answer below. > > On Tue, Aug 31, 2021 at 10:46:40PM +0300, Timur Safin wrote: >>> From: imeevma@tarantool.org >>> Subject: [PATCH v1 1/1] sql: fix comparison between DECIMAL and big >>> DOUBLE >>> >>> This patch fixes comparison between DECIMAL value and DOUBLE values >>> greater or equal to 1e38 or less or equal to -1e38. Now any DOUBLE >>> value >>> greater or equal to 1e38 is more than any DECIMAL value and DOUBLE >>> value less or equal to -1e38 is less than any DECIMAL value. >>> >>> Closes #6376 >> ... >>> diff --git a/changelogs/unreleased/gh-6376-fix-incorrect-dec-inf- >>> cmp.md b/changelogs/unreleased/gh-6376-fix-incorrect-dec-inf-cmp.md >>> new file mode 100644 >>> index 000000000..70de655f1 >>> --- /dev/null >>> +++ b/changelogs/unreleased/gh-6376-fix-incorrect-dec-inf-cmp.md >>> @@ -0,0 +1,3 @@ >>> +## bugfix/sql >>> + >>> +* Fixed wrong comparison between DECIMAL and large DOUBLE values >>> (gh-6376). >>> diff --git a/src/box/sql/mem.c b/src/box/sql/mem.c >>> index 4c40f15dc..a3ab31af5 100644 >>> --- a/src/box/sql/mem.c >>> +++ b/src/box/sql/mem.c >>> @@ -2451,9 +2451,9 @@ mem_cmp_num(const struct Mem *a, const struct >>> Mem *b) >>> } >>> case MEM_TYPE_DOUBLE: { >>> if (b->u.r >= 1e38) >>> - return 1; >>> - if (b->u.r <= -1e38) >>> return -1; >>> + if (b->u.r <= -1e38) >>> + return 1; >> >> Well, while we are here. I do understand that these kind of constants >> already spreading all corners of mem.c when you deal with decimals, >> but it's not entirely clear that this all about DECIMAL_MAX_DIGITS >> limitation in our decimal implementation. >> And beyond all of that - hardcoded constant are evil. Could you please >> introduce any symbolic constant defines for such DECIMAL_MAX_DIGITS- >> derivative values? And use them wherever possible. >> >> (I'm not insisting on fixing whole mem.c, that might be done separately, >> but at least this tricky case worth it) >> > I agree that this is not good, but I think that addition of double constant for > decimal in SQL is not good idea. I think it is better to move all these > operations to decimal.c/.h. Could you fill an issue? If you cannot, I will do > it myself a bit later. Ну вот давай посмотрим на этот код чужими глазами. Ты ведь понимаешь, что пишешь его не для себя, а "для того парня" и тут из контекста не всякому понятно, почему 1e38 при операциях с даблом. Ситуацию можно было бы улучшить несколькими способами: - если волшебная константа используется один раз - то просто написать комментарий - если использования магических констант несколько - то просто вынести в именованную константуЮ из названия которой за километр будет понятно, что это про лимиты нашей decimal реализации. Например, MAX_DECIMAL_FLOAT или что-то вроде того. - (ну или сделать и второе и третье - по желанию). Тут же нет ничего такого не сделано в прошлом и продолжается в настоящем, и простое чтение этого кода требует приложить дополнительные когнитивные усилия для того, чтобы понять что за захардкоженная константа из окружающего контекста. Причем, для того, чтобы понять это место в mem.c надо случайно уже побывать в decimal.c. > > I also agree that I was wrong when I didn't introduce new functions for decimal, > but at that time I feared that I will spend too much time on tests for these > functions, and decided to leave this for later. Да, тогда была спешка и на такое закрывали глаза, но давай всё же завяжем с такими практиками? (Понятно, что спешка будет всегда, но таки когда-то надо начинать. Благо у нас таки есть карт-бланш на кратковременные рефакторинги) В данной ситуации можно приступить за нексоклько шагов: - для данного патча (и только для него) вводим внутри mem.c макрос/именованную константу и использовать только её - создаёшь тикет на короткий рефакторинг таких decimal-related граничных проверок - перелопачиваешь весь mem.c > > In general, I have quite a few questions about functions in decimal.c/.h and > I plan to ask them in the mentioned issue. > >>> decimal_t dec; >>> decimal_t *d = decimal_from_double(&dec, b->u.r); >>> assert(d != NULL && d == &dec); Эта проблема была очевидной еще на предыдущих шагах да, и я, и Серёжа Петренко просили перенести этот код в decimal.c. Мне не кажется, что этот рефакторинг надо делать в одном шаге с граничными условиями, но можно поместить в ту же серию. >> >> Thanks, >> Timur >> Если ты считаешь, что что-то можно сделать потом и коммитишься под это, то важно чтобы такой фоллоуап тикет был создан тобой, а не кем-то другим. Но в рамках обсуждаемых текущих правок, мне кажется что отдельный тикет - излишен, так как правки тривиальные (надо поправить всего 8 строчек кода в mem.c - come on!) и могут идти фоллоуапом релевантному патчу, когда пришли в какое-то место кода и огляделись. Тимур